Pas op voor AI die nepbeelden en stemmen creëert om online geld te stelen

Nguyen Thanh Huong (personagenaam gewijzigd) is een kantoormedewerker in Hanoi . Tijdens een gesprek met een vriend via Facebook Messenger nam Huongs vriend afscheid en beëindigde het gesprek, maar keerde plotseling terug naar een sms-bericht waarin hij vroeg om geld te lenen en voorstelde om geld over te maken naar een bankrekening.

Cảnh giác AI tạo hình ảnh và giọng nói giả mạo để lừa tiền trên mạng- Ảnh 1. — Deepfakes worden door hackers gebruikt om online fraude te plegen

Hoewel de accountnaam overeenkwam met die van haar vriendin, was Huong toch enigszins achterdochtig, dus vroeg ze een videogesprek aan om dit te verifiëren. Haar vriendin stemde meteen toe, maar het gesprek duurde slechts een paar seconden vanwege een "intermitterende netwerkverbinding", zoals haar vriendin uitlegde. Toen ze het gezicht van haar vriendin in het videogesprek zag, en ook de stem was hetzelfde, twijfelde Huong niet langer en maakte ze het geld over. Pas nadat de overboeking succesvol was, besefte Huong dat ze in de val van de hacker was getrapt.

Niet alleen Huong, maar ook vele andere slachtoffers, vrienden en familieleden van Huongs vriend, werden op dezelfde manier opgelicht. De bedragen die de boeven van dat Facebook-account hebben gestolen, lopen in de tientallen miljoenen dong.

In de tweede helft van 2023 ontving beveiligingsbedrijf Bkav voortdurend meldingen en hulpvragen van slachtoffers over soortgelijke oplichtingspraktijken. Volgens experts van Bkav namen de criminelen in Huongs geval de controle over het Facebook-account over, maar namen ze het niet meteen volledig over, maar volgden ze hem in het geheim, wachtend op een kans om zich voor te doen als slachtoffer en hun vrienden en familie om geld te vragen. Ze gebruikten AI om een nepvideo te maken van het gezicht en de stem van de Facebook-accounteigenaar (deepfake). Toen ze werden gevraagd om een videogesprek te voeren ter verificatie, stemden ze ermee in om het gesprek te accepteren, maar verbraken vervolgens snel de verbinding om detectie te voorkomen.

De heer Nguyen Tien Dat, algemeen directeur van het Bkav AntiMalware Research Center, zei: "De mogelijkheid om gebruikersgegevens te verzamelen en te analyseren via AI maakt het mogelijk om geavanceerde fraudestrategieën te ontwikkelen. Dit betekent ook dat de complexiteit van fraudescenario's bij de combinatie van Deepfake en GPT zal toenemen, waardoor fraudedetectie veel moeilijker wordt."

Bkav raadt gebruikers aan extra waakzaam te zijn, geen persoonlijke gegevens te verstrekken (CCCD, bankrekeningnummer, OTP-code, enz.) en geen geld over te maken naar vreemden via de telefoon, sociale media of websites die tekenen van fraude vertonen. Wanneer er een verzoek is om geld te lenen/over te maken naar een rekening via sociale media, dient u andere authenticatiemethoden te gebruiken, zoals bellen of andere communicatiekanalen om opnieuw te bevestigen.

Bronlink