Vid en nyligen genomförd global konferens om stärkande av sanningen, värdad av International Center for Journalists (ICFJ), fokuserade experter på att bekämpa deepfakes och andra skadliga AI-verktyg.
Råd har givits om hur journalister bättre kan förstå de hot som djupförfalskningstekniker kan utgöra och vad som kan göras för att bekämpa dem.
Foto: IJN
Teknologi och dess hot
Snabbt utvecklande tekniker gör det möjligt för användare att redigera ansiktsdrag, skapa animerade porträtt, lägga till rörelse och återskapa röster.
Som en del av detta ekosystem är deepfake en typ av audiovisuell manipulation som låter användare skapa realistiska simuleringar av en persons ansikte, röst och handlingar.
Deepfakes produceras enklare än någonsin tidigare tack vare AI, för att inte tala om väldigt enkelt.
Falska videor av offentliga personer blir också allt vanligare, ofta åtföljda av fabricerat ljud. Deepfakes lägger en extra börda på journalister och censorer att verifiera en videos äkthet.
De är den mest omtalade formen av manipulerad media, enligt Shirin Anlen, medietekniker på WITNESS. ”Deepfakes i sig är en del av det vi ser mer och mer av i nyheterna”, sa han.
Även om deepfakes blir allt vanligare kräver de också en betydande mängd skicklighet och kunskap för att skapas korrekt, vilket gör dem svåra för den genomsnittliga personen att producera. Därför når många manipulerade videor inte upp till nivån för en riktig deepfake.
Till exempel är filter som förändrar en persons hår, ögonfärg eller röst manipulationer vi stöter på dagligen, särskilt på sociala medier. AI-genererade dialoger och påhittade citat från offentliga personer är ett annat exempel.
"Deepfakes används egentligen inte i stor skala", sa Anlen. "Det mesta vi fortfarande ser i det nuvarande desinformationslandskapet är förfalskningar av låg kvalitet, mestadels kontextuellt omarbetade."
Hur man upptäcker
Varje ny teknik har brister, och deepfakes är inget undantag. Till exempel kan användare upptäcka fel som hackig video, munrörelser som inte matchar ljudet, etc.
Tekniken anpassar sig dock också mycket snabbt. I en tid där information frodas på sociala medier är det extremt svårt att upptäcka och reagera i tid.
"De första generationerna av deepfakes upptäcktes lätt genom ögonrörelser. Nu har nyare generationer uppdaterats; ögonen blinkar och är inte längre stilla. Denna teknik uppdateras ständigt och kommer att bli allt svårare att upptäcka", konstaterade Anlen.
Lösningar
Bland metoderna för att upptäcka deepfakes kan journalister granska videoinnehåll för fel och förvrängningar, tillämpa befintliga verifierings- och forensiska tekniker och använda AI-baserade metoder för deepfakes-detektering när sådana finns tillgängliga.
Att förbättra verktygen för mediekunskap och ge journalister vidareutbildning i mediemanipulation är också viktigt.
"Vi måste förbereda oss nu", sa Anlen. "Vi måste förstå sammanhanget för att verkligen kunna forma tekniken, för att forma hur den byggs... så att vi inte påverkas passivt av ny teknik."
Hoang Ton (enligt IJN)
[annons_2]
Källa
