Deepfake av Gaza-krigen vekker bekymring om AI

[annonse_1]

Bildene, som er sett millioner av ganger på nettet, er deepfakes laget med kunstig intelligens. Hvis du ser nøye etter, kan du se avslørende tegn: merkelig buede fingre eller øyne som gløder med et unaturlig lys.

Opprøret disse deepfake-bildene genererer er imidlertid reelt.

Fotografier fra Israel-Hamas-krigen illustrerer levende og smertefullt farene ved AI som et propagandaverktøy, brukt til å lage naturtro bilder.

Siden kampene startet forrige måned har digitalt manipulerte bilder som sirkulerer på sosiale medier blitt brukt til å komme med falske påstander om ansvar for ofre eller til å villede folk om grusomheter som aldri skjedde.

Dypfalske bilder av Gaza-krigen vekker ny bekymring bilde 1 — En palestiner plukker opp eiendeler fra ruinene i Gaza. AP-bilde.

Teknologiske fremskritt skjer stadig oftere og med lite tilsyn. Det tydeliggjør risikoen for at AI blir en annen form for våpen, og gir et tidlig glimt av hva som vil skje i fremtidige konflikter, valg og andre store hendelser.

«Ting kommer til å bli mye verre før de blir bedre», sa Jean-Claude Goldenstein, administrerende direktør i CREOpoint, et teknologiselskap basert i San Francisco og Paris som bruker AI til å vurdere gyldigheten av klager på nettet.

Selskapet hans har samlet en database over de mest virale deepfake-bildene som dukker opp fra Gaza. «Bilder, videoer og lyd: med kreativ AI er dette et skritt fremover du aldri har sett maken til», sa han.

Imran Ahmed, administrerende direktør i Center for Countering Digital Hate, en ideell organisasjon som sporer krigsrelatert feilinformasjon, sa at propagandistene som lager slike bilder er dyktige til å målrette folks dypeste impulser og angst.

Jo mer skremmende bildet er, desto mer sannsynlig er det at brukerne husker og deler det, og dermed utilsiktet sprer ytterligere feilinformasjon. Lignende AI-generert feilinformasjon har virkelig begynt å gå viralt siden Russland-Ukraina-konflikten.

Hver ny konflikt eller valgperiode gir nye muligheter for desinformasjonsspredere. Dette har fått mange AI-eksperter og statsvitere til å advare om risikoer i det kommende året, når flere land holder store valg, inkludert USA, India, Pakistan, Ukraina, Indonesia og Mexico.

Risikoen for at AI og sosiale medier kan brukes til å spre løgner til amerikanske velgere har alarmert lovgivere fra begge partier i Washington. På en nylig høring om farene ved deepfake-teknologi sa den amerikanske representanten Gerry Connolly, en demokrat fra Virginia, at USA må investere i finansiering av utviklingen av AI-verktøy som er utformet for å motvirke annen AI.

Å reagere effektivt på de politiske og sosiale utfordringene som AI-generert feilinformasjon medfører, vil kreve både bedre teknologi og bedre regulering, sa professor David Doermann ved University of Buffalo.

Mai Anh (ifølge AP)

[annonse_2]
Kilde