Использование ИИ для создания поддельных изображений и голосов с целью выманивания денег

2 февраля г-н Нгуен Тиен Дат, генеральный директор исследовательского центра Bkav по борьбе с вредоносным ПО, заявил, что даже если вы совершаете видеозвонок и видите лицо родственника или друга и слышите его голос, вы не обязательно разговариваете с этим человеком.

Нгуен Тхань Хыонг (имя персонажа изменено) — офисный работник в Ханое . Во время разговора с другом через Facebook Messenger друг Хуонга попрощался и закончил разговор, но внезапно вернулся к текстовому сообщению, попросив занять денег и предложив перевести их на банковский счет.

Несмотря на то, что имя учетной записи совпадало с именем ее подруги, у Хыонг все равно возникли подозрения, поэтому она запросила видеозвонок для проверки. Друг сразу же согласился, но, по его словам, звонок длился всего несколько секунд из-за «нестабильности интернета». Увидев лицо своей подруги во время видеозвонка, а также услышав голос этого человека, Хыонг больше не сомневалась и перевела деньги. Однако только после успешного перевода денег Хуонг поняла, что попала в ловушку хакера.

В последнее время многие люди стали жертвами финансовых мошенничеств с использованием Deepfake и искусственного интеллекта.

Не только Хуонг, но и многие другие жертвы, являющиеся его друзьями и родственниками, были обмануты таким же образом. Сумма денег, которую мошенники могут украсть с помощью такого типа аккаунтов Facebook, достигает десятков миллионов донгов.

Во второй половине 2023 года в Bkav постоянно поступали сообщения и просьбы о помощи от жертв о подобных случаях мошенничества. По словам экспертов Bkav, в случае Хуонга злоумышленники взяли под контроль аккаунт Facebook, но не сделали этого сразу, а тайно следили за ним, выжидая удобного случая, чтобы притвориться жертвой и попросить денег в долг у друзей и родственников.

Они используют ИИ для создания поддельного видео с лицом и голосом владельца аккаунта Facebook (Deepfake). Когда их попросили сделать видеозвонок для аутентификации, они согласились принять вызов, но затем быстро отключились, чтобы избежать обнаружения.

По словам г-на Нгуена Тиена Дата из Исследовательского центра по борьбе с вредоносным ПО Bkav, возможность сбора и анализа пользовательских данных с помощью ИИ позволяет создавать сложные стратегии мошенничества. Это также означает, что сложность сценариев мошенничества при объединении Deepfake и GPT возрастет, что затруднит обнаружение мошенничества.

Bkav рекомендует пользователям быть особенно бдительными, не предоставлять личную информацию (CCCD, банковский счет, OTP-код...), не переводить деньги незнакомым людям через телефон, социальные сети, сайты с признаками мошенничества.

При поступлении запроса на заимствование/перевод денег на счет через социальные сети следует использовать другие методы аутентификации, такие как звонок или использование других каналов связи для повторного подтверждения.

Источник: https://nld.com.vn/canh-bao-su-dung-ai-tao-hinh-anh-va-giong-noi-gia-mao-de-lua-tien-196240202191252818.htm