Deepfake av Gazakriget väcker oro kring AI

Bilderna, som har visats miljontals gånger online, är djupförfalskningar skapade med artificiell intelligens. Om du tittar noga kan du se tydliga tecken: konstigt böjda fingrar eller ögon som lyser med ett onaturligt ljus.

Den upprördhet som dessa djupförfalskningsbilder genererar är dock verklig.

Fotografier från kriget mellan Israel och Hamas illustrerar levande och smärtsamt farorna med AI som ett propagandaverktyg, som används för att skapa verklighetstrogna bilder.

Sedan striderna började förra månaden har digitalt manipulerade foton som cirkulerat på sociala medier använts för att göra falska påståenden om ansvar för offer eller för att vilseleda människor om grymheter som aldrig inträffat.

En palestinier plockar upp tillhörigheter från spillrorna i Gaza. Foto: AP.

Teknologiska framsteg sker allt oftare och med begränsad tillsyn. Det gör risken för att AI blir ytterligare en form av vapen tydlig och ger en tidig glimt av vad som kommer att hända i framtida konflikter, val och andra större händelser.

”Saker och ting kommer att bli mycket värre innan de blir bättre”, säger Jean-Claude Goldenstein, VD för CREOpoint, ett teknikföretag baserat i San Francisco och Paris som använder AI för att bedöma giltigheten av klagomål online.

Hans företag har sammanställt en databas över de mest virala deepfake-bilderna som dyker upp från Gaza. ”Bilder, videor och ljud: med kreativ AI är detta ett steg framåt som ni aldrig sett förut”, sa han.

Imran Ahmed, VD för Center for Countering Digital Hate, en ideell organisation som spårar krigsrelaterad desinformation, sa att propagandisterna som skapar sådana bilder är skickliga på att rikta in sig på människors djupaste impulser och ångestkänslor.

Ju mer skrämmande bilden är, desto mer sannolikt är det att användarna kommer ihåg och delar den, och oavsiktligt sprider ytterligare felinformation. Liknande AI-genererad felinformation har verkligen börjat bli viral sedan Ryssland-Ukraina-konflikten.

Varje ny konflikt eller valperiod presenterar nya möjligheter för desinformationsspridare. Det har fått många AI-experter och statsvetare att varna för risker under det kommande året, då flera länder håller stora val, inklusive USA, Indien, Pakistan, Ukraina, Indonesien och Mexiko.

Risken att AI och sociala medier kan användas för att sprida lögner till amerikanska väljare har oroat lagstiftare från båda partierna i Washington. Vid en nyligen genomförd utfrågning om farorna med djupförfalskningsteknik sa den amerikanska representanten Gerry Connolly, en demokrat från Virginia, att USA behöver investera i finansiering av utvecklingen av AI-verktyg som är utformade för att motverka annan AI.

Att effektivt bemöta de politiska och sociala utmaningar som AI-genererad desinformation innebär kommer att kräva både bättre teknik och bättre reglering, säger professor David Doermann vid University of Buffalo.

Mai Anh (enligt AP)

Källa: https://www.congluan.vn/tran-lan-anh-gia-deepfake-ve-cuoc-chien-gaza-lam-gia-tang-moi-lo-ngai-ai-post274389.html