Остерегайтесь искусственного интеллекта, создающего поддельные изображения и голоса для мошенничества в Интернете

Нгуен Тхань Хыонг (имя персонажа изменено) — офисный работник в Ханое . Во время общения с другом в Facebook Messenger друг Хыонга попрощался и завершил разговор, но внезапно вернулся к текстовому сообщению, попросив денег в долг и предложив перевести их на банковский счёт.

Хакеры используют дипфейки для совершения онлайн-мошенничества

Хотя имя счёта совпадало с именем её подруги, Хыонг всё ещё немного сомневалась и запросила видеозвонок для подтверждения. Подруга сразу согласилась, но звонок длился всего несколько секунд из-за «перебоев с сетью», как она объяснила. Увидев лицо подруги в видеозвонке, да и голос был тот же, Хыонг больше не сомневалась и перевела деньги. Однако только после успешного перевода Хыонг поняла, что попалась в ловушку хакера.

Не только Хыонг, но и многие другие жертвы, друзья и родственники его друга, также стали жертвами мошенничества. Сумма денег, украденных мошенниками с этого аккаунта в Facebook, достигает десятков миллионов донгов.

Во второй половине 2023 года охранная компания Bkav постоянно получала сообщения и просьбы о помощи от жертв подобных мошеннических действий. По словам экспертов Bkav, в случае с Хуонгом мошенники захватили аккаунт Facebook, но не сделали это сразу полностью, а тайно следили за ним, выжидая возможности выдать себя за жертву и попросить у её друзей и родственников денег в долг. С помощью искусственного интеллекта они создали поддельное видео с лицом и голосом владельца аккаунта Facebook (Deepfake). Когда их попросили сделать видеозвонок для подтверждения личности, они согласились, но затем быстро отключились, чтобы избежать обнаружения.

Г-н Нгуен Тиен Дат, генеральный директор исследовательского центра Bkav AntiMalware, отметил: «Возможность сбора и анализа пользовательских данных с помощью ИИ позволяет создавать сложные стратегии мошенничества. Это также означает, что сложность сценариев мошенничества при сочетании Deepfake и GPT возрастет, что значительно затруднит обнаружение мошенничества».

Bkav рекомендует пользователям быть особенно бдительными, не предоставлять личную информацию (CCCD, номер банковского счета, одноразовый код и т.д.), не переводить деньги незнакомцам по телефону, через социальные сети, сайты, имеющие признаки мошенничества. При запросе займа/перевода денег на счёт через социальные сети следует использовать другие способы аутентификации, например, звонок или повторное подтверждение по другим каналам связи.

Ссылка на источник: https://thanhnien.vn/canh-giac-ai-tao-hinh-anh-va-giong-noi-gia-mao-de-lua-tien-tren-mang-185240202184553589.htm