Использование ИИ для создания поддельных изображений и голосов с целью вымогательства денег.

2 февраля г-н Нгуен Тьен Дат, генеральный директор Центра исследований антивирусного ПО компании Bkav, заявил, что даже если вы совершаете видеозвонок и видите лицо родственника или друга и слышите его голос, это не обязательно означает, что вы разговариваете именно с этим человеком.

Нгуен Тхань Хуонг (имя изменено) — офисный работник в Ханое . Во время разговора с другом через Facebook Messenger друг Хуонг попрощался и завершил беседу, но внезапно ответил, попросив одолжить денег и перевести их на банковский счет.

Хотя имя учетной записи совпадало с именем ее подруги, у Хуонг все же оставались некоторые подозрения, и она попросила о видеозвонке для проверки. Подруга с готовностью согласилась, но звонок длился всего несколько секунд из-за «нестабильного интернет-соединения», как объяснила подруга. Увидев лицо подруги в видеозвонке и услышав правильный голос, Хуонг перестала сомневаться и перевела деньги. Однако только после успешного перевода Хуонг поняла, что попала в ловушку хакера.

В последнее время многие люди стали жертвами финансовых мошенничеств с использованием технологии Deepfake и искусственного интеллекта (ИИ).

Хуонг была не единственной жертвой; многие другие пострадавшие, включая ее друзей и родственников, также стали жертвами мошенничества аналогичным образом. Сумма денег, полученная мошенниками с помощью таких аккаунтов в Facebook, достигла десятков миллионов донгов.

Во второй половине 2023 года Bkav постоянно получал сообщения и просьбы о помощи от жертв подобных мошеннических схем. По словам экспертов Bkav, в случае с Хуонг злоумышленник получил контроль над ее аккаунтом в Facebook, но не сразу установил полный контроль. Вместо этого он тайно следил за ней, ожидая возможности выдать себя за жертву и попросить у ее друзей и родственников деньги в долг.

Они используют искусственный интеллект для создания поддельного видео, имитирующего лицо и голос владельца аккаунта Facebook (Deepfake). Когда их просят совершить видеозвонок для подтверждения личности, они соглашаются, но затем быстро отключаются, чтобы избежать обнаружения.

По словам г-на Нгуен Тьен Дата из исследовательского центра Bkav по борьбе с вредоносным ПО, возможность сбора и анализа пользовательских данных с помощью ИИ позволяет создавать сложные стратегии фишинга. Это также означает, что сложность сценариев фишинга, сочетающих Deepfake и GPT, возрастет, что затруднит выявление фишинга.

Bkav советует пользователям проявлять особую бдительность, не предоставлять личную информацию (номер удостоверения личности, банковские реквизиты, OTP-коды и т. д.) и не переводить деньги незнакомцам по телефону, через социальные сети или веб-сайты с мошенническими функциями.

При получении запросов на займы/денежные переводы через социальные сети рекомендуется использовать альтернативные методы проверки, такие как телефонные звонки или другие каналы связи, для подтверждения деталей.

Источник: https://nld.com.vn/canh-bao-su-dung-ai-tao-hinh-anh-va-giong-noi-gia-mao-de-lua-tien-196240202191252818.htm