Kunstmatige intelligentie gebruiken om nepafbeeldingen en -stemmen te creëren om geld af te troggelen.

Op 2 februari verklaarde de heer Nguyen Tien Dat, algemeen directeur van het AntiMalware Research Center bij Bkav, dat zelfs als je een videogesprek voert en het gezicht van een familielid of vriend ziet en hun stem hoort, dit niet per se betekent dat je met die persoon praat.

Nguyen Thanh Huong (naam veranderd) is een kantoorbediende in Hanoi . Tijdens een gesprek met een vriend via Facebook Messenger nam Huongs vriend afscheid en beëindigde het gesprek, maar stuurde plotseling een bericht terug met de vraag of hij geld kon lenen en of het geld naar een bankrekening kon worden overgemaakt.

Hoewel de accountnaam overeenkwam met die van haar vriendin, bleef Huong argwanend en vroeg ze om een ​​videogesprek ter verificatie. Haar vriendin stemde direct toe, maar het gesprek duurde slechts enkele seconden vanwege een "instabiele internetverbinding", aldus haar vriendin. Nadat ze het gezicht van haar vriendin in het videogesprek had gezien en de juiste stem had gehoord, twijfelde Huong niet langer en maakte ze het geld over. Pas na de succesvolle overschrijving realiseerde Huong zich echter dat ze in de val van een hacker was gelopen.

Recent zijn veel mensen slachtoffer geworden van financiële oplichting waarbij gebruik werd gemaakt van deepfake-technologie en kunstmatige intelligentie (AI).

Huong was niet het enige slachtoffer; veel andere slachtoffers, waaronder haar vrienden en familieleden, werden op een vergelijkbare manier opgelicht. Het bedrag dat de oplichters via dit soort Facebook-accounts buitmaakten, liep op tot tientallen miljoenen Vietnamese dong.

In de tweede helft van 2023 ontving Bkav continu meldingen en hulpvragen van slachtoffers over soortgelijke oplichtingspraktijken. Volgens de experts van Bkav kreeg de dader in het geval van Huong weliswaar toegang tot haar Facebook-account, maar nam niet meteen de volledige controle over. In plaats daarvan werd ze in het geheim in de gaten gehouden, wachtend op een gelegenheid om zich voor te doen als het slachtoffer en leningen te vragen aan haar vrienden en familieleden.

Ze gebruiken AI om een ​​nepvideo te maken die het gezicht en de stem van de eigenaar van het Facebook-account nabootst (deepfake). Wanneer ze gevraagd worden om een ​​videogesprek te voeren ter verificatie, stemmen ze in met het gesprek, maar verbreken ze vervolgens snel de verbinding om ontdekking te voorkomen.

Volgens de heer Nguyen Tien Dat van het AntiMalware Research Center van Bkav maakt de mogelijkheid om gebruikersgegevens te verzamelen en te analyseren met behulp van AI de ontwikkeling van geavanceerde phishingstrategieën mogelijk. Dit betekent ook dat de complexiteit van phishingscenario's die Deepfake en GPT combineren zal toenemen, waardoor phishing moeilijker te herkennen zal zijn.

Bkav adviseert gebruikers extra waakzaam te zijn, geen persoonlijke informatie (zoals identiteitskaartnummer, bankrekeninggegevens, OTP-codes, enz.) te verstrekken en geen geld over te maken naar onbekenden via de telefoon, sociale media of websites met frauduleuze kenmerken.

Bij het ontvangen van lening- of geldovermakingsverzoeken via sociale media is het raadzaam om alternatieve verificatiemethoden te gebruiken, zoals telefonisch contact of andere communicatiekanalen, om de gegevens te bevestigen.

Bron: https://nld.com.vn/canh-bao-su-dung-ai-tao-hinh-anh-va-giong-noi-gia-mao-de-lua-tien-196240202191252818.htm