Остерегайтесь искусственного интеллекта, создающего поддельные изображения и голоса для мошенничества в Интернете

Нгуен Тхань Хуонг (имя изменено) — офисный работник в Ханое . Во время разговора с другом через Facebook Messenger друг Хуонг попрощался и завершил беседу, но внезапно ответил, попросив одолжить денег и перевести их на банковский счет.

Хакеры используют дипфейки для совершения мошеннических действий в интернете.

Хотя имя учетной записи совпадало с именем ее подруги, Хуонг все же немного заподозрила неладное и попросила о видеозвонке для проверки. Подруга сразу согласилась, но звонок длился всего несколько секунд из-за «перебоев в сети», как объяснила подруга. Увидев лицо подруги в видеозвонке и тот же голос, Хуонг перестала сомневаться и перевела деньги. Однако только после успешного перевода Хуонг поняла, что попала в ловушку хакера.

Не только Хуонг, но и многие другие жертвы, включая друзей и родственников подруги Хуонг, также стали жертвами мошенничества аналогичным образом. Сумма денег, украденных мошенниками с этого аккаунта в Facebook, составила десятки миллионов донгов.

Во второй половине 2023 года компания Bkav, занимающаяся вопросами безопасности, постоянно получала сообщения и просьбы о помощи от жертв подобных мошеннических схем. По словам экспертов Bkav, в случае с Хуонг злоумышленники захватили контроль над аккаунтом в Facebook, но не сразу полностью, а тайно следили за ним, выжидая возможности выдать себя за жертву и попросить у друзей и родственников денег в долг. Они использовали искусственный интеллект для создания поддельного видео с лицом и голосом владельца аккаунта в Facebook (Deepfake). Когда их просили совершить видеозвонок для подтверждения личности, они соглашались, но затем быстро отключались, чтобы избежать обнаружения.

Генеральный директор исследовательского центра Bkav AntiMalware, г-н Нгуен Тьен Дат, заявил: «Возможность собирать и анализировать данные пользователей с помощью ИИ позволяет создавать сложные стратегии мошенничества. Это также означает, что сложность сценариев мошенничества при сочетании Deepfake и GPT возрастет, что значительно затруднит обнаружение мошенничества».

Bkav рекомендует пользователям проявлять особую бдительность, не предоставлять личную информацию (CCCD, банковский счет, OTP-код и т.д.), не переводить деньги незнакомым людям по телефону, через социальные сети, сайты с признаками мошенничества. При запросе на заем/перевод денег на счет через социальные сети следует использовать другие методы аутентификации, такие как звонок или использование других каналов связи для повторного подтверждения.

Ссылка на источник: https://thanhnien.vn/canh-giac-ai-tao-hinh-anh-va-giong-noi-gia-mao-de-lua-tien-tren-mang-185240202184553589.htm