Deepfakes zijn wijdverbreid - Niemand is veilig voor AI-imitatietrucs

Stemimitatie, gezichtsimitatie, playbacken... AI is nu niet alleen meer bedoeld voor werk en entertainment, maar ontwikkelt zich ook tot een gevaarlijk instrument voor commerciële fraude. Afbeeldingen van beroemdheden, artsen en zelfs monniken worden door AI nagebootst om producten te verkopen via sociale netwerken. Echte mensen weten het niet en kopers verliezen hun vertrouwen.

'Gezicht geleend' worden om goederen te verkopen

"Wat de oorspronkelijke knieaandoening ook is, pas gewoon onze methode toe. We garanderen dat deze binnen 7 dagen aanzienlijk zal verbeteren. Als het volledig ineffectief is, ben ik bereid om VND 1 miljard te vergoeden als oprechte excuses. Als u echt geen effect ziet, beloven we u 100% terug en ben ik zelf bereid VND 1 miljard te vergoeden. Niet iedereen durft zich zo te committeren", aldus een bekende zangeres die reclame maakt voor een massagecrème voor gewrichtspijn. Het is echter vermeldenswaard dat deze advertentie volledig door kunstmatige intelligentie (AI) is gemaakt.

De bovenstaande reclameclip werd gebruikt door een TikTok-account genaamd LShop, dat de afbeelding, stem en lichaamstaal van de zanger op een realistische manier gebruikte die niet te zien is zonder nauwkeurige observatie. Dit account heeft bijna 9.000 volgers, 67.000 likes en elke clip is duizenden keren bekeken. Alleen al de "reclame" -video met de afbeelding van de zanger heeft meer dan 1.000 likes en bijna 100 reacties opgeleverd.

Met dezelfde massagecrème "produceerden" verkoopkanalen ook een andere deepfakeversie, ditmaal van een arts. In de clip beloofde het personage stellig: "Ik ben de meest prestigieuze orthopedisch arts in Hanoi en ik garandeer dat zelfs de meest ernstige meniscusscheur in slechts 3 dagen volledig genezen kan zijn. Deze gel is gecertificeerd door de meest prestigieuze orthopedische vereniging van Vietnam." Deze zin werd door AI nagemaakt voor een reeks andere "artsen", waardoor kijkers hem gemakkelijk voor echt konden aanzien.

De clip kreeg bijna 4000 likes en meer dan 120 reacties, maar toen we een berichtje stuurden om te proberen het te kopen, reageerde het account niet en reageerde het ook niet op kijkers in de reacties. Het product werd gewoon in de winkelwagen geplaatst voor directe aankoop. Opvallend is dat het product uit China komt en dat de productinformatie erg vaag is.

Van zangers en beroemdheden tot artsen: ze worden allemaal geïmiteerd door verkoopkanalen die AI-clips maken om gezondheidsproducten te verkopen.

En om dat niet te laten, heeft de deepfake-truc zich ook uitgebreid naar spirituele zaken. Een TikTok-account genaamd Phat Phap NM plaatst niet alleen de lezingen van Meester TPH opnieuw, maar gebruikt ook AI-technologie om afbeeldingen te maken van de "meester" die producten zoals Bodhibladeren en agarhoutarmbanden verkoopt.

Toen kijkers reacties achterlieten waarin ze vroegen om iets te kopen, antwoordde de zender: "Als het niet gaat zoals gepland, ga dan naar het displaygedeelte op mijn account en kies wat je nodig hebt. Wees niet zuinig met het kleine bedrag en laat het grote bedrag liggen." Direct daarna moest deze monnik zelf het woord nemen om duidelijk te maken dat hij nooit reclame had gemaakt voor dergelijke producten en er ook nooit bij betrokken was geweest.

De grens tussen creativiteit en inbreuk

Cybersecurity-expert Ngo Minh Hieu (Hieu PC) van het National Cyber ​​Security Monitoring Center (NCSC) stelde dat nep-reclameclips die op sociale netwerken worden verspreid, voornamelijk worden gemaakt met deepfake-software. Deze software is niet zeldzaam en veel diensten bieden zelfs pakketten aan met lage kosten en zeer eenvoudige bediening. Hoewel er positieve toepassingen zijn op het gebied van digitale contentcreatie en mediaproductie, ligt het probleem volgens de heer Hieu in het feit dat sommige mensen deze technologie hebben misbruikt voor negatieve doeleinden, zoals fraude, identiteitsvervalsing, het verspreiden van nepnieuws of het belasteren van anderen via video's die er echt uitzien.

De heer Hieu gaf ook een aantal signalen die kunnen helpen bij het identificeren van deepfake-clips, zoals enigszins stijve gezichtsuitdrukkingen in de video, mondvormen en bewegingen die niet overeenkwamen met de dialoog... De heer Hieu waarschuwde dat er ernstiger situaties zijn geweest waarin AI werd gebruikt om gezichten van slachtoffers in gevoelige video's in te voegen met als doel intimidatie, dwang en winstbejag.

Volgens advocaat Tran Duc Phuong van de Orde van Advocaten van Ho Chi Minhstad is het gebruik van AI om afbeeldingen van beroemdheden (of specifieke personen) te creëren zonder hun toestemming een schending van de persoonlijke rechten, met name het recht op afbeelding, zoals vastgelegd in artikel 32 van het Burgerlijk Wetboek van 2015. De wet bepaalt: "Personen hebben recht op hun eigen afbeelding. Het gebruik van de afbeelding van een persoon moet met diens toestemming plaatsvinden. Bij gebruik van een afbeelding voor commerciële doeleinden moet een vergoeding worden betaald aan de persoon wiens afbeelding wordt gebruikt, tenzij de partijen een andere overeenkomst hebben."

Als de eigenaar van een sociaalnetwerkaccount dus zonder toestemming door AI nagemaakte afbeeldingen van echte foto's, oude video's, enz. gebruikt voor reclame- of verkoopdoeleinden, overtreedt hij of zij de wet. Indien het gebruik van een afbeelding in strijd is met de bepalingen van dit artikel, heeft de eigenaar van de afbeelding het recht om de rechter te verzoeken een beslissing uit te vaardigen die de overtreder, relevante instanties, organisaties en personen dwingt het gebruik van de afbeelding in te trekken, te vernietigen en te beëindigen, schadevergoeding te betalen en andere maatregelen te treffen in overeenstemming met de wettelijke bepalingen.

CAM NUONG

Bron: https://www.sggp.org.vn/deepfake-tran-lan-khong-ai-an-toan-truoc-chieu-tro-gia-danh-bang-ai-post803313.html