På en nylig global konference om styrkelse af sandheden, afholdt af International Center for Journalists (ICFJ), fokuserede eksperter på bekæmpelse af deepfakes og andre ondsindede AI-værktøjer.
Der er blevet givet råd om, hvordan journalister bedre kan forstå de trusler, som deepfake-teknologier kan udgøre, og hvad der kan gøres for at bekæmpe dem.
Foto: IJN
Teknologi og dens trusler
Hurtigt udviklende teknologier gør det muligt for brugerne at redigere ansigtstræk, skabe animerede portrætter, tilføje bevægelse og genskabe stemmer.
Som en del af dette økosystem er deepfake en type audiovisuel manipulation, der giver brugerne mulighed for at skabe realistiske simuleringer af en persons ansigt, stemme og handlinger.
Deepfakes produceres nemmere end nogensinde før takket være AI, for ikke at nævne meget simpelt.
Falske videoer af offentlige personer bliver også mere og mere almindelige, ofte ledsaget af fabrikeret lyd. Deepfakes lægger en ekstra byrde på journalister og censorer for at verificere ægtheden af en video.
Ifølge Shirin Anlen, medieteknolog hos WITNESS, er de den mest omtalte form for manipulerede medier. "Deepfakes er i sig selv en del af det, vi ser mere og mere af i nyhederne," sagde han.
Selvom deepfakes bliver mere almindelige, kræver de også en betydelig mængde færdigheder og viden for at blive skabt korrekt, hvilket gør dem vanskelige for den gennemsnitlige person at producere. Derfor når mange manipulerede videoer ikke niveauet af en ægte deepfake.
For eksempel er filtre, der ændrer en persons hår, øjenfarve eller stemme, manipulationer, vi støder på dagligt, især på sociale medier. AI-genererede dialoger og opdigtede citater fra offentlige personer er et andet eksempel.
"Deepfakes bliver ikke rigtig brugt i stor skala," sagde Anlen. "Det meste af det, vi stadig ser i det nuværende misinformationslandskab, er forfalskninger af lav kvalitet, hovedsageligt kontekstuelt omarbejdet."
Sådan opdager du
Enhver ny teknologi har fejl, og deepfakes er ingen undtagelse. For eksempel kan brugere opdage fejl som hakkende video, mundbevægelser, der ikke matcher lyden osv.
Teknologien tilpasser sig dog også meget hurtigt. I en tid, hvor information florerer på sociale medier, er rettidig opdagelse og reaktion ekstremt vanskelig.
"De første generationer af deepfakes kunne let opdages gennem øjenbevægelser. Nu er nyere generationer blevet opdateret; øjnene blinker og er ikke længere stille. Denne teknologi opdateres konstant og vil blive stadig vanskeligere at opdage," bemærkede Anlen.
Løsninger
Blandt metoderne til at opdage deepfakes kan journalister undersøge videoindhold for fejl og forvrængninger, anvende eksisterende verifikations- og retsmedicinske teknikker og bruge AI-baserede metoder til deepfake-detektion, når de er tilgængelige.
Det er også vigtigt at forbedre værktøjer til mediekendskab og tilbyde yderligere uddannelse til journalister i mediemanipulation.
"Vi er nødt til at forberede os nu," sagde Anlen. "Vi er nødt til at forstå konteksten for virkelig at kunne forme teknologien, for at kunne forme, hvordan den er bygget ... så vi ikke passivt påvirkes af nye teknologier."
Hoang Ton (ifølge IJN)
[annonce_2]
Kilde
