Deepfake van Gaza-oorlog roept zorgen op over AI

De afbeeldingen zijn miljoenen keren online bekeken en zijn deepfakes, gemaakt met behulp van kunstmatige intelligentie. Als je goed kijkt, zie je duidelijke tekenen: vreemd gebogen vingers of ogen die onnatuurlijk oplichten.

De verontwaardiging die deze deepfake-beelden oproepen, is echter wel reëel.

Foto's uit de oorlog tussen Israël en Hamas illustreren op levendige en pijnlijke wijze de gevaren van AI als propagandamiddel, waarmee levensechte beelden kunnen worden gecreëerd.

Sinds het begin van de gevechten vorige maand circuleren er digitaal gemanipuleerde foto's op sociale media. Daarmee worden valse beweringen gedaan over de verantwoordelijkheid voor slachtoffers of worden mensen misleid over wreedheden die nooit hebben plaatsgevonden.

Deepfake-beelden van de oorlog in Gaza roepen nieuwe zorgen op (afbeelding 1) — Een Palestijn ruimt spullen op uit het puin in Gaza. Foto: AP.

Technologische ontwikkelingen vinden steeds vaker plaats en er is weinig toezicht. Dit maakt het risico dat AI een nieuwe vorm van wapen wordt duidelijk en biedt een voorproefje van wat er zal gebeuren bij toekomstige conflicten, verkiezingen en andere grote gebeurtenissen.

"De situatie zal eerst veel erger worden voordat het beter wordt", aldus Jean-Claude Goldenstein, CEO van CREOpoint, een technologiebedrijf uit San Francisco en Parijs dat AI gebruikt om de geldigheid van online klachten te beoordelen.

Zijn bedrijf heeft een database samengesteld met de meest virale deepfake-beelden uit Gaza. "Afbeeldingen, video's en audio: met creatieve AI is dit een stap voorwaarts die je nog nooit eerder hebt gezien", zei hij.

Imran Ahmed, CEO van het Center for Countering Digital Hate, een non-profitorganisatie die desinformatie over oorlogen in kaart brengt, zegt dat de propagandisten die zulke beelden creëren, er bedreven in zijn om de diepste impulsen en angsten van mensen aan te spreken.

Hoe angstaanjagender de afbeelding, hoe groter de kans dat gebruikers deze onthouden en delen, waardoor onbedoeld meer misinformatie wordt verspreid. Vergelijkbare door AI gegenereerde misinformatie is pas echt viraal gegaan sinds het conflict tussen Rusland en Oekraïne.

Elk nieuw conflict of verkiezingsseizoen biedt nieuwe kansen voor verspreiders van desinformatie. Veel AI-experts en politicologen waarschuwen daarom voor risico's in het komende jaar, wanneer verschillende landen belangrijke verkiezingen houden, waaronder de Verenigde Staten, India, Pakistan, Oekraïne, Indonesië en Mexico.

Het risico dat AI en sociale media gebruikt kunnen worden om leugens te verspreiden onder Amerikaanse kiezers, heeft wetgevers van beide partijen in Washington gealarmeerd. Tijdens een recente hoorzitting over de gevaren van deepfake-technologie zei de Amerikaanse afgevaardigde Gerry Connolly, een Democraat uit Virginia, dat de VS moet investeren in de ontwikkeling van AI-tools die andere AI-aanvallen tegengaan.

Volgens David Doermann, hoogleraar aan de Universiteit van Buffalo, is er voor een effectief antwoord op de politieke en maatschappelijke uitdagingen die door AI gegenereerde desinformatie ontstaan, zowel betere technologie als betere regelgeving nodig.

Mai Anh (volgens AP)

Bron