Vær obs på at AI lager falske bilder og stemmer for å svindle penger på nettet

Nguyen Thanh Huong (karakternavnet er endret) er kontorarbeider i Hanoi . Under en samtale med en venn via Facebook Messenger sa Huongs venn farvel og avsluttet samtalen, men kom plutselig tilbake til tekstmeldingen, ba om å låne penger og foreslo å overføre penger til en bankkonto.

Deepfakes brukes av hackere til å begå nettsvindel

Selv om kontonavnet samsvarte med venninnens, var Huong fortsatt litt mistenksom, så hun ba om en videosamtale for å bekrefte. Venninnen hennes gikk med på det umiddelbart, men samtalen varte bare noen få sekunder på grunn av «uregelmessig nettverk», som venninnen forklarte. Da hun så venninnens ansikt i videosamtalen, og stemmen var også den samme, tvilte ikke Huong lenger og overførte pengene. Det var imidlertid først etter at overføringen var vellykket at Huong innså at hun hadde falt i hackerfellen.

Ikke bare Huong, men også mange andre ofre som er venner og slektninger av Huongs venn ble svindlet på samme måte. Pengebeløpet skurkene svindlet fra den Facebook-kontoen er opptil titalls millioner dong.

I andre halvdel av 2023 mottok sikkerhetsselskapet Bkav kontinuerlig rapporter og forespørsler om hjelp fra ofre om lignende svindelforsøk. Ifølge Bkavs eksperter tok skurkene i Huongs tilfelle kontroll over Facebook-kontoen, men tok ikke umiddelbart over fullstendig, men fulgte i hemmelighet etter, og ventet på en mulighet til å late som de var offeret for å be venner og slektninger om å låne penger. De brukte AI til å lage en falsk video av Facebook-kontoeierens ansikt og stemme (Deepfake). Da de ble bedt om å foreta en videosamtale for å bekrefte, gikk de med på å godta samtalen, men koblet deretter raskt fra for å unngå å bli oppdaget.

Nguyen Tien Dat, administrerende direktør for Bkav AntiMalware Research Center, sa: «Muligheten til å samle inn og analysere brukerdata gjennom AI muliggjør utvikling av sofistikerte svindelstrategier. Dette betyr også at kompleksiteten i svindelscenarioer når Deepfake og GPT kombineres, noe som gjør det mye vanskeligere å oppdage svindel.»

Bkav anbefaler at brukere er spesielt årvåkne, ikke oppgir personlig informasjon (CCCD, bankkonto, OTP-kode...), ikke overfører penger til fremmede via telefon, sosiale nettverk eller nettsteder med tegn på svindel. Når det er en forespørsel om å låne/overføre penger til en konto via sosiale nettverk, bør du bruke andre autentiseringsmetoder, som å ringe eller bruke andre kommunikasjonskanaler for å bekrefte på nytt.

Kildekobling: https://thanhnien.vn/canh-giac-ai-tao-hinh-anh-va-giong-noi-gia-mao-de-lua-tien-tren-mang-185240202184553589.htm