Pozor na umělou inteligenci, která vytváří falešné obrázky a hlasy za účelem online podvodů s penězi.

Nguyen Thanh Huong (jméno postavy bylo změněno) je administrativní pracovník v Hanoji . Během rozhovoru s kamarádem přes Facebook Messenger se Huongův kamarád rozloučil a ukončil konverzaci, ale najednou se vrátil k textové zprávě, požádal ho o půjčku peněz a navrhl převod peněz na bankovní účet.

Cảnh giác AI tạo hình ảnh và giọng nói giả mạo để lừa tiền trên mạng- Ảnh 1. — Hackeři používají deepfakes k páchání online podvodů.

Přestože se jméno účtu shodovalo s názvem její kamarádky, Huong měla stále trochu podezření, a tak požádala o videohovor , aby si to ověřila. Kamarádka okamžitě souhlasila, ale hovor trval jen několik sekund kvůli „přerušované síti“, jak jí vysvětlila. Když Huong ve videohovoru uviděla kamarádčinu tvář a stejný hlas, už nepochybovala a peníze převedla. Teprve po úspěšném převodu si však Huong uvědomila, že se chytila do hackerské pasti.

Nejen Huong, ale i mnoho dalších obětí, kteří jsou přáteli a příbuznými Huongova přítele, bylo podvedeno stejným způsobem. Částka peněz, kterou zločinci z jeho facebookového účtu vylákali, dosahuje desítek milionů dongů.

Ve druhé polovině roku 2023 bezpečnostní společnost Bkav neustále dostávala od obětí hlášení a žádosti o pomoc ohledně podobných podvodů. Podle expertů Bkav se v Huongově případě zločinci zmocnili facebookového účtu, ale nezmocnili se ho okamžitě úplně, ale tajně ho sledovali a čekali na příležitost vydávat se za oběť a požádat o půjčku od přátel a příbuzných. Pomocí umělé inteligence vytvořili falešné video obličeje a hlasu majitele facebookového účtu (Deepfake). Když byli požádáni o videohovor za účelem ověření, souhlasili s přijetím hovoru, ale poté se rychle odpojili, aby se vyhnuli odhalení.

Pan Nguyen Tien Dat, generální ředitel výzkumného centra Bkav AntiMalware, uvedl: „Schopnost shromažďovat a analyzovat uživatelská data pomocí umělé inteligence umožňuje vytváření sofistikovaných strategií pro boj s podvody. To také znamená, že se zvýší složitost podvodných scénářů při kombinaci Deepfake a GPT, což výrazně ztíží odhalování podvodů.“

Bkav doporučuje uživatelům, aby byli obzvláště ostražití, neposkytovali osobní údaje (CCCD, bankovní účet, OTP kód...), nepřeváděli peníze cizím lidem prostřednictvím telefonu, sociálních sítí, webových stránek se známkami podvodu. V případě žádosti o půjčku/převod peněz na účet prostřednictvím sociálních sítí byste měli použít jiné metody ověřování, jako je telefonování nebo použití jiných komunikačních kanálů k opětovnému potvrzení.

Zdrojový odkaz