Gebruik van AI om gehandicapten na te bootsen voor winst: pas op voor nieuwe oplichting

Dit zijn slechteriken die kunstmatige intelligentie (AI) gebruiken om de gezichten en lichamen van normale mensen te bewerken en ze te transformeren tot gehandicapten. Vervolgens creëren ze trieste verhalen om producten te verkopen of om steun te vragen. Het enige doel is om misbruik te maken van de compassie van de gemeenschap voor illegale winst.

Afbeelding van vrouw bewerkt met AI-technologie om eruit te zien als gehandicapte persoon op TikTok-kanaal genaamd NL

Geavanceerde trucs

Een typisch geval dat publieke verontwaardiging veroorzaakte, was het TikTok-kanaal NL, dat een reeks video's plaatste over een vrouw met beide armen geamputeerd, die online producten probeerde te verkopen om haar jonge kinderen te onderhouden. In de clips verscheen de vrouw in een eenvoudige kamer, gekleed in eenvoudige kleding, en gebruikte ze haar geamputeerde arm om producten te introduceren, wat kijkers emotioneel en meelevend maakte. Veel mensen aarzelden niet om te klikken om te volgen, massaal te delen en zelfs producten te bestellen om de moeder te helpen moeilijkheden te overwinnen. Toen de video's echter viraal gingen, realiseerde de online community zich dat dit eigenlijk de afbeelding was van een gewone verkoopster die met AI-technologie was bewerkt om eruit te zien als een echte gehandicapte.

De truc om in te spelen op gevoelens van medelijden is een valkuil geworden die veel mensen ertoe aanzet geld over te maken of bestellingen te plaatsen, omdat ze denken dat ze daarmee een zwakke en kansarme persoon helpen. Dhr. Dang Minh Quang, aan de Ngoc Lam-straat in Bo De Ward ( Hanoi ), vertelde: "Mijn moeder geloofde in de clip van een vrouw met een geamputeerde arm die goederen verkocht, dus ze had medelijden en bestelde een aantal producten van deze persoon. Toen ze de waarheid ontdekte, namelijk dat de gehandicapte persoon slechts een door AI gecreëerde afbeelding was, was ze erg verdrietig en voelde ze zich beledigd."

Het verhaal van Quangs moeder is niet uniek. Honderden anderen zijn op dezelfde manier bedrogen. Wanneer vriendelijkheid wordt misbruikt, verliezen mensen geleidelijk hun vertrouwen en worden ze terughoudender bij oprechte hulpvragen. Het pijnlijke gevolg is dat kwetsbaren ernstig worden gekwetst. Op zijn persoonlijke Facebookpagina deelde Nguyen Sin het verhaal van mevrouw Tran Thi Nga (36 jaar oud in de provincie Phu Tho ), eigenaar van het kanaal "Nga Tic Cuc", die een beperking heeft (eind 2024 moest ze vanwege acute myocarditis haar armen en benen amputeren om haar leven te redden). Ze staat bij velen bekend om haar positieve levenslust. Nadat er echter veel gevallen van imitatie van gehandicapten met behulp van AI aan het licht kwamen, werd mevrouw Nga ervan verdacht AI te gebruiken om zich voor te doen als gehandicapten.

In recente livestreams was mevrouw Nga vaak boos toen sommige gebruikers van sociale media haar herhaaldelijk vroegen om "haar hand op te steken" of "kruipen" om te bewijzen dat ze echt een beperking had. Deze onredelijke en wrede verzoeken kwetsten haar diep. Het verhaal van "Active Nga" is een hartverscheurend bewijs van hoe schadelijk technologiemisbruik kan zijn.

Door AI gegenereerde vaardigheden voor het herkennen van nep-inhoud

Volgens het Ministerie van Openbare Veiligheid registreerde Vietnam in 2024 meer dan 6.000 gevallen van onlinefraude, met een geschat verlies van ongeveer VND 12.000 miljard. In slechts 8 maanden van 2025 werden ook bijna 1.500 gevallen van onlinefraude ontdekt. Dit aantal weerspiegelt duidelijk de gevaarlijke omvang van hightechcriminaliteit in de context van ons land met meer dan 78 miljoen internetgebruikers en 72 miljoen gebruikers van sociale netwerken. Cyberspace wordt een vruchtbare bodem voor steeds geavanceerdere fraudetrucs, waarbij het gebruik van AI om nepcontent te creëren momenteel de grootste bedreiging vormt.

Geconfronteerd met deze alarmerende realiteit adviseren autoriteiten en cybersecurity-experts dat mensen zich moeten wapenen met kennis en vaardigheden om nepcontent te herkennen. Nguyen Nhat Ha, adjunct-secretaris van de Jeugdbond van de politie van Long Bien (Hanoi), merkte op dat mensen regelmatig officiële informatiebronnen moeten raadplegen en proactief hun kennis over technologie en nieuwe vormen van fraude moeten bijwerken. Ze moeten in het bijzonder altijd waakzaam zijn en de basisprincipes in gedachten houden: informatiebronnen zorgvuldig controleren, geen persoonlijke informatie verstrekken aan niet-geverifieerde bronnen, geen toegang krijgen tot vreemde links en geen geld overmaken naar niet-geverifieerde rekeningen.

Om door AI gegenereerde video's te identificeren, moeten gebruikers volgens cybersecurityexperts nauwkeurig letten op beelddetails, gezichtsbewegingen, ledematen of geluiden. Tekenen zoals een lege blik, onnatuurlijke bewegingen, vertraagde spraak of afwijkende lipbewegingen zijn vaak tekenen van deepfake-technologie.

Daarnaast zijn het controleren van de door het kanaal geplaatste informatie, het lezen van reacties en het bekijken van de activiteitsgeschiedenis ook eenvoudige manieren om de betrouwbaarheid te beoordelen. Daarnaast moeten gebruikers de gewoonte ontwikkelen om eerst te verifiëren voordat ze iets geloven. Hoe emotioneel een video ook is, deel of steun hem niet overhaast.

Deskundigen riepen socialemediaplatforms ook op om de censuur te versterken, content te identificeren die AI gebruikt om zich voor te doen als mensen met een beperking, en accounts die de regels overtreden streng aan te pakken. Autoriteiten moeten ook snel duidelijke regels opstellen voor het gebruik van AI-afbeeldingen en -content, zodat technologie geen instrument wordt voor onethisch gedrag door kwaadwillenden.

Reactie (0)