Använder AI för att skapa falska bilder och röster för att lura pengar.

Den 2 februari uppgav Nguyen Tien Dat, generaldirektör för AntiMalware Research Center på Bkav, att även om du ringer ett videosamtal och ser en släktings eller väns ansikte och hör deras röst, betyder det inte nödvändigtvis att du pratar med den personen.

Nguyen Thanh Huong (namn ändrat) är kontorsarbetare i Hanoi . Under ett samtal med en vän via Facebook Messenger sa Huongs vän adjö och avslutade samtalet, men svarade plötsligt och bad om att få låna pengar och att pengarna skulle överföras till ett bankkonto.

Även om kontonamnet matchade hennes väns, hade Huong fortfarande en liten misstanke och begärde ett videosamtal för att verifiera. Hennes vän gick genast med på det, men samtalet varade bara några sekunder på grund av en "instabil internetanslutning", enligt vännens förklaring. Efter att ha sett sin väns ansikte i videosamtalet och hört rätt röst tvivlade Huong inte längre och överförde pengarna. Men först efter den lyckade överföringen insåg Huong att hon hade fallit i en hackers fälla.

Många människor har nyligen fallit offer för finansiella bedrägerier med Deepfake-teknik och AI (artificiell intelligens).

Huong var inte det enda offret; många andra offer, inklusive hennes vänner och släktingar, blev också lurade på ett liknande sätt. Summan pengar som bedragarna fick tag på från den här typen av Facebook-konton uppgick till tiotals miljoner VND.

Under senare hälften av 2023 fick Bkav kontinuerligt rapporter och förfrågningar om hjälp från offer gällande liknande bedrägerier. Enligt Bkavs experter fick gärningsmannen i Huongs fall kontroll över hennes Facebook-konto men tog inte omedelbart fullständig kontroll. Istället övervakade de henne i hemlighet och väntade på en möjlighet att utge sig för offret och be om lån från hennes vänner och släktingar.

De använder AI för att skapa en falsk video som härmar Facebook-kontoinnehavarens ansikte och röst (Deepfake). När de ombeds att ringa ett videosamtal för verifiering går de med på samtalet men avslutar sedan snabbt för att undvika upptäckt.

Enligt Nguyen Tien Dat från Bkavs AntiMalware Research Center möjliggör möjligheten att samla in och analysera användardata genom AI skapandet av sofistikerade nätfiskestrategier. Detta innebär också att komplexiteten i nätfiskescenarier som kombinerar Deepfake och GPT kommer att öka, vilket gör nätfiske svårare att identifiera.

Bkav råder användare att vara särskilt vaksamma, att inte lämna ut personlig information (ID-kortsnummer, bankkontouppgifter, engångskoder etc.) och att inte överföra pengar till främlingar via telefon, sociala medier eller webbplatser med bedrägliga egenskaper.

När du får låne-/pengaöverföringsförfrågningar via sociala medier är det lämpligt att använda alternativa verifieringsmetoder som telefonsamtal eller andra kommunikationskanaler för att bekräfta uppgifterna.

Källa: https://nld.com.vn/canh-bao-su-dung-ai-tao-hinh-anh-va-giong-noi-gia-mao-de-lua-tien-196240202191252818.htm