Остерегайтесь искусственного интеллекта, создающего поддельные изображения и голоса для мошенничества в Интернете

Нгуен Тхань Хыонг (имя персонажа изменено) — офисный работник в Ханое . Во время переписки с другом в Facebook Messenger друг Хыонга попрощался и завершил разговор, но внезапно вернулся к переписке, попросив денег в долг и предложив перевести их на банковский счёт.

Хакеры используют дипфейки для совершения онлайн-мошенничества

Хотя имя счёта совпадало с именем её подруги, Хыонг всё же заподозрила неладное и запросила видеозвонок для подтверждения. Подруга сразу согласилась, но, по её словам, звонок длился всего несколько секунд из-за «задержек интернета». Увидев лицо подруги на видеозвонке и услышав её голос, Хыонг больше не сомневалась и перевела деньги. Однако только после успешного перевода Хыонг поняла, что попалась в ловушку хакера.

Не только Хыонг, но и многие другие жертвы, друзья и родственники его друга, также пострадали от мошенничества. Сумма, украденная мошенниками с этого аккаунта в Facebook, достигает десятков миллионов донгов.

Во второй половине 2023 года охранная компания Bkav постоянно получала сообщения и просьбы о помощи от жертв подобных мошеннических действий. По словам экспертов Bkav, в случае с Хуонгом мошенники захватили аккаунт Facebook, но не сделали это сразу полностью, а тайно следили за ним, выжидая возможности выдать себя за жертву и попросить у её друзей и родственников денег в долг. С помощью искусственного интеллекта они создали поддельное видео с лицом и голосом владельца аккаунта Facebook (Deepfake). Когда их попросили сделать видеозвонок для подтверждения личности, они согласились, но затем быстро отключились, чтобы избежать обнаружения.

Г-н Нгуен Тиен Дат, генеральный директор исследовательского центра Bkav по борьбе с вредоносным ПО, отметил: «Возможность собирать и анализировать пользовательские данные с помощью ИИ позволяет создавать сложные стратегии мошенничества. Это также означает, что сложность сценариев мошенничества при сочетании Deepfake и GPT возрастет, что значительно затруднит обнаружение мошенничества».

Bkav рекомендует пользователям быть особенно бдительными, не предоставлять личную информацию (удостоверение личности, номер банковского счёта, одноразовый пароль и т.д.), не переводить деньги незнакомым лицам по телефону, через социальные сети, сайты, имеющие признаки мошенничества. При запросе займа/перевода денег на счёт через социальные сети следует использовать другие способы аутентификации, например, звонок или другие каналы связи для подтверждения.

Ссылка на источник: https://thanhnien.vn/canh-giac-ai-tao-hinh-anh-va-giong-noi-gia-mao-de-lua-tien-tren-mang-185240202184553589.htm