De zaak rond de imitatie van Poetin

Het recente incident waarbij de beeltenis en stem van de Russische president Vladimir Poetin werden vervalst met behulp van deepfake-technologie heeft de alarmbellen doen rinkelen over een nieuw type 'wapen' in het conflict in Oekraïne.

De Russische president Vladimir Poetin. (Bron: Reuters)

Op 5 juni gaf het Kremlin een dringende mededeling uit waarin stond dat de videoclip van de Russische president Vladimir Poetin, uitgezonden op veel radio- en televisiestations in gebieden die grenzen aan Oekraïne, een deepfake was die door hackers was gemaakt.

Nepvideo, echte impact

In de toespraak zei de stem van de Russische president Vladimir Poetin, gecreëerd met behulp van deepfake-technologie, dat de noodtoestand was uitgeroepen in de Russische regio's Belgorod, Voronezj en Rostov vanwege aanstaande aanvallen van Oekraïense troepen. De nep-Poetin vroeg inwoners van de regio's ook om hun huizen te verlaten en dieper in Rusland onderdak te zoeken.

Deepfake is een technologie die gebruikmaakt van kunstmatige intelligentie (AI) om de afbeelding en stem van een persoon te gebruiken en deze in de video van een andere persoon te plaatsen. Deepfake-technologie verzamelt een gezichtsopname van een persoon en vervangt dit vervolgens door het gezicht van een andere persoon in de video. Voor audiobestanden gebruikt deepfake de stemopname van een echt persoon om een computer te trainen om precies zo te praten als die persoon.

Radio Mir , een van de zenders die door de aanval getroffen werden, meldde dat het incident ongeveer 40 minuten duurde. Ondertussen circuleerden er ook tv-fragmenten van de nep-Poetin-video op sociale media. Tot nu toe heeft nog geen enkele persoon of organisatie de verantwoordelijkheid voor het incident opgeëist.

Nadat de clip viraal ging, beweerde Kremlin-woordvoerder Dmitry Peskov dat de uitroeping van de staat van beleg het werk was van hackers.

"Er is absoluut geen sprake van (de afkondiging van de staat van beleg). Er is inderdaad in sommige gebieden gehackt. Mij werd verteld dat er een hackincident was op Radio Mir en op enkele andere kanalen. Nu zijn alle hackers uitgeschakeld en zijn de informatiekanalen weer onder controle", vertelde Dmitri Peskov aan het Russische persbureau TASS.

De Kyiv Post meldde ook dat het bestuurlijk centrum van de regio Belgorod de videoboodschap een deepfake noemde, die bedoeld was om "angst te zaaien onder vreedzame inwoners van Belgorod."

Hanna Liubakova, een Wit-Russische journaliste en niet-residerend onderzoeker bij de Atlantic Council, deelde een tv-fragment waarop een nepfoto van Poetin te zien was.

Datawetenschapper Arseny Khakhalin, een expert op het gebied van kunstmatige intelligentie (AI), beoordeelde het incident en zei dat deze hack typisch zou kunnen zijn voor het gebruik van deepfake als wapen in het Russisch-Oekraïense conflict.

Dit is echter niet de eerste keer dat deepfake-technologie in dit conflict wordt gebruikt. In de eerste weken van de speciale militaire operatie van Rusland in februari 2022 werd een deepfake-video van de Oekraïense president Volodymyr Zelensky vrijgegeven. In die deepfake-video leek Zelensky zijn soldaten aan te sporen hun wapens neer te leggen en zich over te geven. De video werd snel verwijderd, maar had zich al wijd verspreid op sociale media.

In propaganda heeft deepfake-technologie een overtuigend militair of politiek effect; het is een wapen met een enorme impact. (Bron: socialmediasafety)

Het nieuwe populaire wapen

Kolonel Philip Ingram, voormalig officier van de Britse militaire inlichtingendienst en beleidsmaker bij de NAVO, vertelde het tijdschrift Politico Europe over de imitatie van Poetin. Hij zei dat deepfake-berichten die zogenaamd van echte figuren zijn gemaakt, een steeds groter risico vormen in een wereld die wordt beïnvloed door AI.

Volgens deze persoon heeft deepfake-technologie in propaganda overtuigende militaire of politieke effecten; het is een wapen met een enorme impact.

"Ik vermoed dat dit een nieuw massavernietigingswapen is", voegde kolonel Philip Ingram eraan toe. Hij verwees naar een paar weken geleden, toen een nepfoto van de bomaanslag op het Pentagon viraal ging op Twitter, waardoor de aandelenmarkt met 500 miljard dollar kelderde voordat hij weer herstelde.

Professor Hany Farid van de Universiteit van Californië, Berkeley (VS), expert op het gebied van digitale media, waarschuwde dat mensen zich in de huidige context niet moeten verbazen over dergelijke ontwikkelingen, aangezien mensen tools ontwikkelen en inzetten om de realiteit te manipuleren, gecombineerd met mediakanalen zoals tv, radio en internet... die direct miljarden dollars kunnen kosten. Veel partijen met verschillende doeleinden zullen deze technologieën misbruiken.

"Dit geldt vooral omdat onze toezichthouders er niet naar streven om de technologiesector voldoende bescherming te bieden, terwijl Silicon Valley snel blijft groeien en de boel op zijn kop blijft zetten", benadrukte professor Hany Farid.

Bron