AI ontregelt de oorlog met Iran.

Door AI gegenereerde video's en afbeeldingen met betrekking tot het conflict tussen de VS, Israël en Iran overspoelen sociale media in een ongekend tempo en worden een nieuw oorlogswapen.

Talrijke nepvideo 's die een conflict tussen de VS, Israël en Iran uitbeelden, zijn miljoenen keren gedeeld. Foto: CNN.

In de eerste weken van de oorlog in Iran werd sociale media overspoeld door een golf van door AI gegenereerde nepvideo's en -afbeeldingen. Deze video's, die enorme explosies, verwoeste steden of soldaten die protesteerden tegen de oorlog toonden – terwijl de oorlog in werkelijkheid niet bestond – droegen bij aan de chaos en verwarring rondom de online gebeurtenissen.

De New York Times gebruikte methoden om te zoeken naar gemakkelijk herkenbare handtekeningen, of watermerken, in bestanden en verzamelde gegevens uit meerdere bronnen. De resultaten toonden aan dat meer dan 110 door AI gegenereerde afbeeldingen en video's in de afgelopen twee weken verband hielden met het conflict in het Midden-Oosten.

Een ongekend niveau

Deze gefabriceerde video's toonden vrijwel elk aspect van het conflict, van paniekerige Israëliërs die schreeuwden tot Amerikaanse militaire schepen die werden aangevallen met raketten en torpedo's. In totaal werden deze video's miljoenen keren bekeken op platforms zoals X, TikTok en Facebook en gedeeld in privéberichten.

Vergelijkbare inhoud is ook in andere conflicten in omloop geweest. Deskundigen stellen echter dat het conflict tussen de VS, Israël en Iran zich op meerdere fronten afspeelt, wat leidt tot een explosie van nepnieuws.

Een reeks nepvideo's gemaakt door AI. Foto: NYT.

Marc Owen Jones, universitair docent media-analyse aan de Northwestern University in Qatar, zei dat de situatie nu heel anders is dan tijdens het conflict in Oekraïne. "We zien waarschijnlijk meer content die met AI te maken heeft dan ooit tevoren", zei hij.

Deze content is een effectief informatiewapen geworden voor Teheran om de publieke acceptatie van de oorlog te beïnvloeden. Volgens een onderzoek van Cyabra, een bedrijf gespecialiseerd in data-analyse van sociale media, is het merendeel van de AI-video's over de oorlog pro-Iraans en overdrijft het vaak de kracht en geavanceerdheid van het Iraanse leger.

Marc Owen Jones betoogt dat het gebruik van AI-beelden van locaties in de Golfregio steeds belangrijker wordt in de Iraanse mediastrategie. "Omdat het de indruk wekt dat deze oorlog brutaler en mogelijk schadelijker is voor Amerikaanse bondgenoten dan hij in werkelijkheid is," zei hij.

Een van de meest verspreide nepvideo's online, gefilmd vanaf een balkon in Tel Aviv, toonde de skyline van de stad die werd gebombardeerd met raketten, met de Israëlische vlag op de voorgrond. De video werd miljoenen keren bekeken en gedeeld door talloze influencers en nieuwssites.

Video's waarin een Israëlische vlag op de voorgrond te zien is, zijn vaak nep. Foto: NYT.

Volgens experts is de aanwezigheid van de Israëlische vlag op de voorgrond een veelvoorkomend kenmerk van door AI gegenereerde video's. AI-tools voegen vaak automatisch details toe wanneer gebruikers beschrijvingen van raketaanvallen invoeren. Echte video's van oorlog zijn daarentegen meestal minder dramatisch. Raketten verschijnen vaak slechts als verre lichtpuntjes of rookpluimen.

Er zijn geen preventieve maatregelen getroffen.

In één geval speelde door AI gegenereerde nepcontent een belangrijke rol bij de verspreiding van desinformatie. Op 1 maart beweerde de Iraanse marine het Amerikaanse schip CVN-72 succesvol te hebben aangevallen, wat een golf van door AI gegenereerde nepbeelden teweegbracht.

Veel Iraanse gebruikers deelden en vierden de video online, omdat ze die zagen als bewijs dat de Iraanse tegenaanval de alliantie aan het wankelen bracht. De VS verklaarden later echter dat de aanval mislukt was en het schip onbeschadigd was gebleven.

Talrijke nepvideo's tonen de gebeurtenissen van de oorlog. Foto: NYT.

Tientallen andere door AI gegenereerde afbeeldingen en video's fungeren als een nieuwe vorm van digitale propaganda, waarbij geen enkele poging wordt gedaan om hun kunstmatigheid te verbergen. Sommige content verheerlijkt wereldleiders , terwijl andere oppositieleiders op een ontmenselijkende manier afbeelden.

Volgens de New York Times hebben socialemediabedrijven weinig moeite gedaan om de golf van door AI gegenereerde nepvideo's te bestrijden die vorig jaar hun platforms overspoelde, na de lancering van talloze nieuwe tools. Gebruikers kunnen watermerken die nepcontent aangeven doorgaans gemakkelijk maskeren of verwijderen.

Vorige week kondigde platform X aan dat het de inkomstendeling tijdelijk, gedurende 90 dagen, zou opschorten voor accounts die AI-gegenereerde content over 'gewapende conflicten' plaatsten zonder duidelijke labeling. Cyabra ontdekte echter dat veel accounts die aan Iran gelinkt waren, alleen maar geïnteresseerd waren in het verspreiden van desinformatie.

"In wezen zijn sociale media en AI een oorlogsinstrument geworden," aldus Valerie Wirtschafter, onderzoeker bij het Brookings Institution, gespecialiseerd in buitenlands beleid en AI.

Bron: https://znews.vn/ai-lam-loan-cuoc-chien-iran-post1635050.html