Hoang Oanh (karaktärsnamnet har ändrats) är kontorsarbetare i Hanoi . Medan han chattade med en vän via Facebook Messenger sa Oanhs vän adjö och avslutade samtalet, men återgick plötsligt till att sms:a, be om att låna pengar och föreslog att överföra pengar till ett bankkonto.

Även om kontonamnet matchade hennes väns namn var Hoang Oanh fortfarande lite misstänksam så hon begärde ett videosamtal för att verifiera. Hennes vän gick omedelbart med på det, men samtalet varade bara några sekunder på grund av "intermittent nätverk", som hennes vän förklarade. Efter att ha sett sin väns ansikte i videosamtalet och rösten som också var personens, tvivlade Hoang Oanh inte längre och överförde pengarna. Det var dock först efter att överföringen hade lyckats som användaren insåg att hon hade fallit i hackarens fälla.

luadao sudung ai 1.jpg
Försökspersonerna ringde videosamtal med falska bilder och röster skapade av AI för att lura och tillägna sig användarnas tillgångar. (Foto från Bkav)

Fallet med användaren Hoang Oanh är bara ett av många offer som har "fallit i fällan" av bedragargrupper som använder artificiell intelligens för att skapa bilder och röster från offrens vänner och släktingar för att lura dem att tillägna sig deras egendom.

Bkav-experter sa att under andra halvan av 2023 och särskilt runt tiden för kinesiskt nyår 2024 fick detta informationssäkerhetsföretag kontinuerligt rapporter och förfrågningar om hjälp från offer om liknande bedrägerifall som ovan.

Enligt analysen av företagets experter tog skurkarna, i fallet med användaren Hoang Oanh, kontroll över Facebook-kontot men tog inte omedelbart över helt, utan följde istället i hemlighet efter och väntade på en möjlighet att låtsas vara offret och be att låna pengar från sina vänner och släktingar.

Bedragarna använder AI för att skapa en falsk video av Facebook-kontoinnehavarens ansikte och röst (Deepfake). När de ombeds att ringa ett videosamtal för att verifiera, går de med på att acceptera samtalet men avslutar sedan snabbt för att undvika upptäckt.

Herr Nguyen Tien Dat, generaldirektör för Bkavs center för forskning om skadlig kod, betonade att även när användare ringer ett videosamtal och ser ansikten på släktingar eller vänner, och hör deras röster, är det inte nödvändigtvis sant att man pratar med den personen. På senare tid har många människor blivit offer för ekonomiska bedrägerier med hjälp av Deepfake och användning av artificiell intelligens.

”Möjligheten att samla in och analysera användardata genom AI möjliggör skapandet av sofistikerade bedrägeristrategier. Detta innebär också att komplexiteten i bedrägeriscenarier när Deepfake och GPT kombineras kommer att öka, vilket gör det mycket svårare att upptäcka bedrägerier”, sa Nguyen Tien Dat.

Bkav-experter rekommenderar att användare är särskilt vaksamma och inte lämnar ut personlig information (ID-kort, bankkonto, engångskod...). Överför inte pengar till främlingar via telefon, sociala nätverk eller webbplatser med tecken på bedrägeri. När det finns en begäran om att låna/överföra pengar till ett konto via sociala nätverk bör användare använda andra autentiseringsmetoder, såsom att ringa eller använda andra kommunikationskanaler, för att bekräfta igen.

Experter som förutspår trender inom cyberattacker under 2024 är överens om att den snabba utvecklingen av AI inte bara medför tydliga fördelar utan också skapar betydande risker för cybersäkerheten.

Den största utmaningen för företag och organisationer när de ställs inför AI-teknik idag är bedrägerier och avancerade ihållande hot (APT), med den ökande komplexiteten i bedrägeriscenarier, särskilt när man kombinerar Deepfake och GPT. Möjligheten att samla in och analysera användardata genom AI möjliggör skapandet av sofistikerade bedrägeristrategier, vilket gör det svårare för användare att identifiera bedrägerier.

Ökad AI-säkerhet är en obestridlig trend framöver. Det internationella samfundet kommer att behöva samarbeta nära för att utveckla nya säkerhetsåtgärder, samtidigt som man ökar användarnas kunskap och medvetenhet om de potentiella riskerna med AI.

Se upp för bedrägerier som sprider falska varumärkesbudskap

Se upp för bedrägerier som sprider falska varumärkesbudskap

Enligt avdelningen för informationssäkerhet ( ministeriet för information och kommunikation ) är spridning av falska varumärkesbudskap en av 24 former av bedrägerier som sker i Vietnams cyberrymd.
Varning för 5 onlinebedrägerier under kinesiskt nyår 2024

Varning för 5 onlinebedrägerier under kinesiskt nyår 2024

Informationssäkerhetsdepartementet (informations- och kommunikationsministeriet) har just pekat ut fem onlinebedrägerier som sannolikt kommer att användas av bedragare under nyåret 2024 för att stjäla människors information och tillgångar.
Att utge sig för att vara auktoritet står för 9 % av de totala nätfiskeattackerna i Vietnam

Att utge sig för att vara auktoritet står för 9 % av de totala nätfiskeattackerna i Vietnam

I en nyligen publicerad rapport påpekade Viettels cybersäkerhetsexperter att förra året ökade antalet attacker mot myndighetsutövningar i Vietnam, vilket stod för 9 % av det totala antalet bedrägerier och attacker mot utlänningar.