Eksperter anbefaler å utarbeide et krisehåndteringsscenario spesielt for deepfakes

Hva sier ekspertene om begrepet deepfake og det nylige problemet med spredning av falske nakenbilder av kjendiser, som sangeren Taylor Swift på X...

Nedenfor finner du meningene til to eksperter fra RMIT University om de skadelige effektene av deepfake og foreslåtte løsninger på dette problemet:

Dr. Jonathan Crellin (venstre) og Dr. Nguyen Van Thang Long (høyre). (Kilde: RMIT University)

Nettkriminelle utnytter ny teknologi på uforutsette måter

Dr. Jonathan Crellin, leder for informasjonssikkerhet, Fakultet for naturvitenskap , ingeniørfag og teknologi, RMIT University :

Deepfake er et maskingenerert bilde som kan kombinere bilder eller videoer fra flere kilder, og skape et veldig realistisk bilde, en video eller til og med lyd.

Deepfake er avhengig av en teknikk innen AI kalt maskinlæring, som kan erstatte og integrere elementer som en persons ansikt i et annet bilde eller en video.

Et eksempel på bruk av deepfake er å kombinere pornografisk innhold med bilder av Taylor Swift for å lage falske bilder.

For å gjøre dette trengte hjernen bak det hele en rekke bilder slik at programvaren kunne lære om den kvinnelige sangerens ansiktsuttrykk, og deretter kombinere dem med pornografisk innhold for å lage obskøne bilder, noe som førte til at den kvinnelige sangerens image ble svertet.

Det ryktes faktisk at disse bildene ble publisert av en Telegram-gruppe og ble laget ved hjelp av Microsoft Designer-verktøyet med integrert AI-støtte.

Hvem som helst kan bli et offer, ettersom de kriminelle bare trenger et bilde, en video eller et lydopptak av personen som blir utgitt på.

Falske nyheter i mange former har potensial til å bli brukt til å skape falske nyheter, og det er trygt å si at det kommende amerikanske presidentvalget vil bli fylt med slike falske nyheter.

For tiden ønsker lovgivere over hele verden å vedta lover mot denne typen bilder.

Flere tilnærminger begynner å bli tatt i bruk i USA når det gjelder lovgivning, som å stole på sivile søksmål eller lover for å håndtere «spredning av seksuelt eksplisitte bilder av en person generert av AI uten vedkommendes samtykke».

Kina innførte også nye regler som vil tillate straffeforfølgelse av de som sprer AI-genererte bilder.

Storbritannia har gjort deling av deepfake-innhold ulovlig i henhold til loven om nettsikkerhet.

Hvordan kan man oppdage eller forhindre dette?

Det første steget er å redusere antallet bilder, videoer eller lydopptak du har på nettet. Sørg for at du bare deler dem med folk du kjenner, ikke legger dem ut mye på nettet. Når noe først er på internett, er det nesten umulig å fjerne det.

Den andre måten er å bli enige om et hemmelig ord med familien din for å autentisere samtalen, noe som reduserer risikoen for å falle i fellen med et falskt anrop.

Bilder, spesielt videoer, kan ha merkelige (iscenesatte) feil. Hvis du oppdager disse feilene, er det stor sannsynlighet for at bildet eller lyden er forfalsket.

En annen teknikk som kan brukes er å søke etter «omvendt bilde» på Google eller andre søkemotorer for å finne kilden til det originale bildet.

Den siste lærdommen er å ikke blindt tro på det du ser, kameraet (eller AI-en) kan lyve!

Deepfakes utgjør en stor trussel mot kjendiser og politikere

Dr. Nguyen Van Thang Long, førsteamanuensis, Fakultet for kommunikasjon og design, RMIT University :

Med spredningen av falske nyheter fra deepfakes, må medieteamene bestående av kjendiser og politikere ha ressurser tilgjengelig for å overvåke og reagere raskt på falske nyheter eller kontinuerlig korrigere falske nyheter.

Hvis deepfakes systematisk kombineres med organiserte former for «skitten PR», blir denne oppgaven enda vanskeligere på grunn av spredningen av motstridende informasjon, og falske nyheter og negative nyheter vil alltid bli delt mer enn positive nyheter.

Vanligvis, når folk ser nyheter delt på sosiale nettverk, har de ofte for vane å bekrefte informasjon gjennom offisielle mediekanaler.

Med deepfake-innhold som flommer over sosiale medier, blir det stadig vanskeligere og tidkrevende å verifisere nøyaktigheten av vanlige nyheter, noe som krever grundig research og verifiseringsteknikker.

Jo lenger vi utsetter å bekrefte nyheter og kilder, desto mer sannsynlig er det at falsk, fabrikkert eller villedende informasjon vil spre seg på grunn av den raske delings- og kommentarhastigheten på sosiale medier.

Dette forverrer det underliggende problemet og har potensial til å føre til sosial uro, spesielt hvis innholdet er relatert til politisk tale, religion, kjønn, forretningsstrategier eller makroøkonomiske spørsmål.

I sammenheng med spredning av deepfakes er den mest effektive risikostyringsstrategien fortsatt å opprettholde konsistente kommunikasjonskanaler, gjennom populære sosiale medieplattformer, nettsteder eller ansikt-til-ansikt-møter, mellom bedrifter, kjendiser, politikere og viktige interessenter som fans, presse, lokalsamfunn og ansatte.

Den økte bruken av AI bringer både fordeler og uventede nye problemer. Illustrasjonsfoto. (Kilde: Freepik)

Ved å opprettholde disse kommunikasjonskanalene blir det raskere å motta informasjon relatert til deepfakes, noe som muliggjør rettidig og effektiv ryktekorrigering og avslører feilinformasjon fra starten av.

Bedrifter, kjendiser og politikere må imidlertid utvikle en krisehåndteringsplan spesielt for deepfakes. For eksempel hvem som rapporterer, gjennom hvilke mediekanaler, kriterier for å verifisere informasjon gjennom bevis og pålitelige kilder, etablere en tidslinje for håndtering av rykter og skissere en strategi for å gjenopprette omdømmet.

Med en godt forberedt og metodisk plan vil det være mer gjennomførbart å håndtere deepfake-krisen, og minimere de uheldige konsekvensene som kan oppstå.

Kilde: https://baoquocte.vn/chuyen-gia-khuyen-cao-cach-chuan-bi-truoc-kich-ban-xu-ly-khung-hoang-danh-rieng-cho-deepfake-262149.html