Bruker AI til å lage falske bilder og stemmer for å svindle penger.

Den 2. februar uttalte Nguyen Tien Dat, daglig leder for AntiMalware Research Center hos Bkav, at selv om du foretar en videosamtale og ser ansiktet til en slektning eller venn og hører stemmen deres, betyr det ikke nødvendigvis at du snakker med den personen.

Nguyen Thanh Huong (navn endret) er kontoransatt i Hanoi . Under en samtale med en venn via Facebook Messenger sa Huongs venn farvel og avsluttet samtalen, men sendte plutselig tilbake en melding der han ba om å låne penger og ba om at pengene ble overført til en bankkonto.

Selv om kontonavnet samsvarte med venninnens, hadde Huong fortsatt en liten mistanke og ba om en videosamtale for å bekrefte. Venninnen hennes gikk raskt med på det, men samtalen varte bare noen få sekunder på grunn av en «ustabil internettforbindelse», ifølge venninnens forklaring. Etter å ha sett venninnens ansikt i videosamtalen og hørt den riktige stemmen, tvilte ikke Huong lenger og overførte pengene. Men først etter den vellykkede overføringen innså Huong at hun hadde falt i en hackerfelle.

Mange har nylig blitt ofre for økonomisk svindel som bruker Deepfake-teknologi og involverer AI (kunstig intelligens).

Huong var ikke det eneste offeret; mange andre ofre, inkludert vennene og slektningene hennes, ble også svindlet på lignende måte. Pengebeløpet svindlerne fikk tak i fra denne typen Facebook-kontoer nådde titalls millioner VND.

I siste halvdel av 2023 mottok Bkav kontinuerlig rapporter og forespørsler om bistand fra ofre angående lignende svindelforsøk. Ifølge Bkavs eksperter fikk gjerningsmannen i Huongs tilfelle kontroll over Facebook-kontoen hennes, men tok ikke umiddelbart full kontroll. I stedet overvåket de henne i hemmelighet og ventet på en mulighet til å utgi seg for offeret og be om lån fra venner og slektninger.

De bruker AI til å lage en falsk video som etterligner ansiktet og stemmen til Facebook-kontoeieren (Deepfake). Når de blir bedt om å foreta en videosamtale for bekreftelse, godtar de samtalen, men kobler deretter raskt fra for å unngå å bli oppdaget.

Ifølge Nguyen Tien Dat fra Bkavs AntiMalware Research Center, muliggjør muligheten til å samle inn og analysere brukerdata gjennom AI utvikling av sofistikerte phishing-strategier. Dette betyr også at kompleksiteten i phishing-scenarier som kombinerer Deepfake og GPT vil øke, noe som gjør phishing vanskeligere å identifisere.

Bkav anbefaler brukere å være spesielt årvåkne, ikke oppgi personlig informasjon (ID-kortnummer, bankkontodetaljer, engangskoder osv.), og ikke overføre penger til fremmede via telefon, sosiale medier eller nettsteder med uredelige egenskaper.

Når du mottar forespørsler om lån/pengeoverføring via sosiale medier, anbefales det å bruke alternative bekreftelsesmetoder som telefonsamtaler eller andre kommunikasjonskanaler for å bekrefte detaljene.

Kilde: https://nld.com.vn/canh-bao-su-dung-ai-tao-hinh-anh-va-giong-noi-gia-mao-de-lua-tien-196240202191252818.htm