Deepfakes zijn alomtegenwoordig - niemand is veilig voor door AI aangedreven imitatietrucs.

Stemimitatie, gezichtsuitdrukkingen, lipsynchronisatie... AI is niet langer alleen voor werk of entertainment; het wordt een gevaarlijk instrument voor commerciële fraude. Afbeeldingen van beroemdheden, artsen en zelfs boeddhistische monniken worden door AI nagebootst om producten op grote schaal via sociale media te verkopen. De echte personen hebben geen idee en kopers verliezen hun vertrouwen.

Báo Sài Gòn Giải phóng•10/07/2025

Wordt "gebruikt" om producten te verkopen.

"Ongeacht de toestand van uw knie aan het begin, pas gewoon onze methode toe en wij garanderen een aanzienlijke verbetering binnen 7 dagen. Als er absoluut geen effect is, ben ik bereid 1 miljard VND te betalen als oprechte excuses. Als u echt geen effect ziet, garanderen wij een volledige terugbetaling en ben ik zelf bereid 1 miljard VND te betalen. Niet iedereen durft zo'n toezegging te doen," zo luidt de verklaring van een bekende zangeres die reclame maakt voor een pijnstillende massagecrème voor gewrichten. Opmerkelijk is echter dat deze reclame volledig met behulp van AI is gemaakt.

De eerdergenoemde reclamevideo, gemaakt door een TikTok-account genaamd LShop, gebruikt het beeld, de stem en de lichaamstaal van de zangeres op een manier die zonder nauwkeurige observatie niet te herkennen is. Dit account heeft bijna 9.000 volgers, 67.000 likes en elke video wordt duizenden keren bekeken. De video met de zangeres in de hoofdrol heeft meer dan 1.000 likes en bijna 100 reacties met aankoopverzoeken opgeleverd.

Naast dat massagecrèmeproduct produceerden de verkoopkanalen ook een andere deepfake-versie, ditmaal met een dokter in de hoofdrol. In het filmpje belooft het personage vol zelfvertrouwen: "Ik ben de meest gerenommeerde orthopedisch chirurg in Hanoi en ik garandeer dat zelfs de ernstigste meniscusrupturen binnen slechts 3 dagen volledig genezen kunnen worden. Deze gel is gecertificeerd door de meest prestigieuze orthopedische vereniging in Vietnam." Deze dialoog wordt door AI nagebootst voor een reeks andere "dokters", waardoor kijkers gemakkelijk kunnen geloven dat het echt is.

De video kreeg bijna 4000 likes en meer dan 120 reacties, maar toen we de verkoper een bericht stuurden om een bestelling te plaatsen, reageerde het account niet en ging het ook niet in op de reacties; het product bleef gewoon in het winkelmandje staan voor directe aankoop. Opvallend was dat het geadverteerde product uit China kwam en de productinformatie erg vaag was.

Van zangers en beroemdheden tot artsen, iedereen wordt het doelwit van verkoopkanalen die nepvideo's maken met behulp van AI, waarin ze worden nagebootst om gezondheidsproducten te verkopen.

De deepfake-oplichting hield daar niet op; ze breidde zich zelfs uit naar spirituele zaken. Een TikTok-account genaamd Phật Pháp NM deelde niet alleen lezingen van Eerwaarde TPH, maar gebruikte ook AI-technologie om afbeeldingen van "de Eerwaarde" te creëren om producten zoals Bodhibladeren en agarhouten armbanden te verkopen.

Toen kijkers reacties achterlieten met de vraag of ze de producten konden kopen, antwoordde het kanaal: "Als het u niet bevalt, ga dan naar de weergavesectie op mijn account en kies wat u nodig hebt. Wees niet gierig met een kleine hoeveelheid en mis daardoor een grotere kans." Kort daarna moest de monnik zelf verduidelijken dat hij dergelijke producten nooit had geadverteerd of erbij betrokken was geweest.

De grens tussen creativiteit en inbreuk op individuele rechten.

Volgens cybersecurity-expert Ngo Minh Hieu (Hieu PC) van het National Cybersecurity Monitoring Center (NCSC) worden de nep-reclamefilmpjes die op sociale media circuleren voornamelijk gemaakt met deepfake-software. Deze software is niet ongebruikelijk; veel aanbieders bieden zelfs goedkope pakketten aan met een zeer eenvoudige bediening. Hoewel deepfake-software positieve toepassingen heeft in de digitale contentcreatie en mediaproductie, is Hieu van mening dat het probleem schuilt in het feit dat sommige mensen deze technologie misbruiken voor negatieve doeleinden, zoals fraude, identiteitsfraude, het verspreiden van nepnieuws of het zwartmaken van anderen via video's die er authentiek uitzien.

De heer Hieu wees ook op enkele kenmerken waaraan deepfake-video's te herkennen zijn, zoals stijve gezichtsuitdrukkingen en mond- en lipbewegingen die niet overeenkomen met de dialoog. Hij waarschuwde dat er ernstigere gevallen zijn geweest waarin AI is gebruikt om gezichten van slachtoffers over gevoelige video's heen te plaatsen met als doel intimidatie, dwang en winstbejag.

Volgens advocaat Tran Duc Phuong van de Orde van Advocaten van Ho Chi Minh-stad is het gebruik van AI om beelden van beroemdheden (of specifieke personen) te creëren zonder hun toestemming een inbreuk op persoonlijke rechten, met name het recht op het eigen beeld, zoals vastgelegd in artikel 32 van het Burgerlijk Wetboek van 2015. Deze wet stelt: "Personen hebben recht op hun eigen beeld. Het gebruik van iemands beeld moet met diens toestemming gebeuren. Het gebruik van een beeld voor commerciële doeleinden vereist een vergoeding aan de persoon wiens beeld wordt gebruikt, tenzij anders overeengekomen door de partijen."

Als een houder van een socialmediaaccount zonder toestemming AI-gegenereerde afbeeldingen van echte foto's, oude video's, enzovoort, gebruikt voor reclame- of verkoopdoeleinden, overtreedt hij of zij de wet. Indien het gebruik van de afbeeldingen in strijd is met deze bepaling, heeft de persoon wiens afbeelding is gebruikt het recht om een gerechtelijk bevel aan te vragen dat de overtreder, de betreffende instantie, organisatie of persoon verplicht de afbeelding te verwijderen, te vernietigen en het gebruik ervan te staken, schadevergoeding te betalen en andere wettelijke sancties op te leggen.

Reactie (0)