Používání umělé inteligence k vytváření falešných obrázků a hlasů za účelem podvodného vymáhání peněz.

2. února pan Nguyen Tien Dat, generální ředitel Centra pro výzkum antimalwaru v Bkavu, uvedl, že i když uskutečníte videohovor a uvidíte tvář příbuzného nebo přítele a slyšíte jeho hlas, nemusí to nutně znamenat, že s touto osobou mluvíte.

Nguyen Thanh Huong (jméno změněno) pracuje v kanceláři v Hanoji . Během rozhovoru s kamarádem přes Facebook Messenger se Huongův kamarád rozloučil a ukončil konverzaci, ale najednou mu odepsal zprávu s žádostí o půjčku peněz a o převod peněz na bankovní účet.

Přestože se jméno na účtu shodovalo s názvem její kamarádky, Huong měla stále mírné podezření a požádala o videohovor, aby si to ověřila. Kamarádka ochotně souhlasila, ale hovor trval jen několik sekund kvůli „nestabilnímu internetovému připojení“, jak vysvětlila kamarádka. Když Huong ve videohovoru uviděla kamarádčinu tvář a uslyšela správný hlas, už nepochybovala a peníze převedla. Teprve po úspěšném převodu si však Huong uvědomila, že se chytila ​​do hackerské pasti.

Mnoho lidí se v poslední době stalo obětí finančních podvodů využívajících technologii Deepfake a zahrnujících umělou inteligenci (AI).

Huong nebyla jedinou obětí; podobným způsobem bylo podvedeno i mnoho dalších obětí, včetně jejích přátel a příbuzných. Částka peněz, kterou podvodníci získali z těchto typů facebookových účtů, dosáhla desítek milionů VND.

V druhé polovině roku 2023 společnost Bkav neustále dostávala hlášení a žádosti o pomoc od obětí týkající se podobných podvodů. Podle expertů Bkavu v případě Huong pachatel získal kontrolu nad jejím facebookovým účtem, ale nezískal okamžitou kontrolu úplnou. Místo toho ji tajně sledoval a čekal na příležitost vydávat se za oběť a požádat o půjčky její přátele a příbuzné.

Pomocí umělé inteligence vytvoří falešné video napodobující obličej a hlas majitele facebookového účtu (Deepfake). Když jsou požádáni o ověřovací videohovor, souhlasí s hovorem, ale poté se rychle odpojí, aby se vyhnuli odhalení.

Podle pana Nguyen Tien Data z výzkumného centra AntiMalware společnosti Bkav umožňuje schopnost shromažďovat a analyzovat uživatelská data pomocí umělé inteligence vytvářet sofistikované phishingové strategie. To také znamená, že se zvýší složitost phishingových scénářů kombinujících Deepfake a GPT, což ztíží identifikaci phishingu.

Bkav doporučuje uživatelům, aby byli obzvláště ostražití, neposkytovali osobní údaje (číslo občanského průkazu, údaje o bankovním účtu, OTP kódy atd.) a nepřeváděli peníze cizím lidem prostřednictvím telefonu, sociálních médií nebo webových stránek s podvodnými prvky.

Při přijímání žádostí o půjčku/převod peněz prostřednictvím sociálních médií je vhodné použít alternativní metody ověření, jako jsou telefonáty nebo jiné komunikační kanály, k ověření údajů.

Zdroj: https://nld.com.vn/canh-bao-su-dung-ai-tao-hinh-anh-va-giong-noi-gia-mao-de-lua-tien-196240202191252818.htm