«То, что вы видите своими глазами, не обязательно соответствует действительности, и то, что вы слышите в голосе, тоже не обязательно соответствует действительности. Чем срочнее ситуация, тем больше нам нужно проверять и подтверждать информацию», — заявил эксперт по кибербезопасности Нго Минь Хиеу (Hieu PC) на форуме Digital Trust in Finance 2026, посвященном теме «Формирование цифрового доверия в финансах в эпоху ИИ», 12 мая.
На форуме выступил эксперт по кибербезопасности Нго Минь Хиеу (Hieu PC).
По словам эксперта Нго Минь Хиеу, стремительное развитие искусственного интеллекта и технологии Deepfake делает онлайн-мошенничество более изощренным, поскольку киберпреступники могут подделывать лица, голоса, выражения лица и даже фон, чтобы манипулировать жертвами.
«Раньше мы думали, что видим и слышим всё как есть, поэтому сразу верили. Но теперь ИИ может подделывать всё — от лиц и голосов до мимики», — сказал он, добавив, что наибольший ущерб от дипфейков — это не только деньги, но и потеря доверия пользователей.
«Когда злоумышленники используют психологические факторы и убеждения, они могут заманивать жертв на мошеннические инвестиционные платформы или конфисковывать их активы», — добавил он.
Дипфейки легко доступны, но их сложно обнаружить.
По словам эксперта по кибербезопасности Нго Минь Хиеу, технология Deepfake сейчас очень доступна. Многие инструменты с открытым исходным кодом или недорогие сервисы позволяют киберпреступникам создавать поддельные видеоролики , используя всего лишь портретную фотографию.
«С помощью одной лишь фотографии можно менять лица, имитировать голоса и совершать звонки через FaceTime, Zalo или WhatsApp», — сказал он.
На форуме г-н Хиеу продемонстрировал программное обеспечение Deepfake, способное изменять лица в режиме реального времени во время видеозвонков. Эта технология используется многими людьми для выдачи себя за государственных чиновников, родственников или «прекрасных принцев», чтобы обманом выманивать у людей любовь и деньги.
Он также предупредил пользователей, что они раскрывают слишком много личных данных в социальных сетях: «Мы каждый день публикуем изображения, видео и голосовые записи в социальных сетях. Многие люди даже не публикуют ничего сами, но это делают их друзья. Эти данные могут быть собраны из различных источников для создания дипфейков».
Эксперт также отметил, что родителям следует проявлять осторожность при публикации фотографий своих детей в социальных сетях, поскольку киберпреступники могут использовать эти данные для шантажа или «онлайн-похищения».
По словам г-на Нго Минь Хиеу, наиболее опасным аспектом технологии Deepfake является ее способность подрывать «чувство доверия» у людей.
«Видеозвонки всегда внушают больше доверия, чем текстовые сообщения. Знакомые голоса внушают больше уверенности, чем письменный текст. Киберпреступники часто создают чрезвычайные ситуации, например, запрашивают денежные переводы, одноразовые пароли или установку приложений, чтобы психологически манипулировать жертвами», — сказал он.
Эксперт Нго Минь Хиеу: Самый опасный аспект заключается в том, что дипфейки могут подорвать доверие людей.
Хотя сейчас дипфейки гораздо сложнее обнаружить, все еще встречаются некоторые необычные признаки, такие как несоответствие формы рта, неестественное освещение, монотонная речь или деформированные зубы.
«Тон кожи в видео, созданных с помощью технологии Deepfake, часто очень гладкий и неестественный», — сказал эксперт Хиеу. Однако он считает, что пользователям следует не только сосредотачиваться на определении подлинности видео, но и задаваться вопросом, насколько разумна просьба, прозвучавшая в звонке.
Утечки данных, вызванные бесплатными инструментами искусственного интеллекта.
На форуме эксперт Нго Минь Хиеу предупредил, что чат-боты с искусственным интеллектом постепенно становятся новой мишенью для хакеров, если у пользователей отсутствуют навыки защиты своей личной информации.
Он утверждал, что ИИ в настоящее время активно поддерживает работу, обучение и исследования. Однако многие люди имеют привычку загружать в чат-боты большие объемы личных данных, таких как личные фотографии, информация о семье, рабочие документы или деловые данные, не предвидя риска их использования в корыстных целях.
Кроме того, большинство пользователей практически никогда не читают условия использования платформ искусственного интеллекта, в то время как многие бесплатные инструменты могут собирать данные для обучения моделей или для других целей.
Риски возрастают с появлением множества бесплатных приложений на основе искусственного интеллекта неизвестного происхождения, позволяющих пользователям создавать изображения, редактировать лица или превращать реальные фотографии в мультяшных персонажей. По словам г-на Хиеу, это форма манипуляции, которая побуждает пользователей добровольно предоставлять биометрические данные третьим лицам.
Пользователи сталкиваются с риском утечки персональных данных при использовании чат-ботов на основе искусственного интеллекта, не обладающих достаточной защитой. (Иллюстративное изображение)
Для более безопасного использования ИИ эксперты рекомендуют пользователям избегать загрузки конфиденциальной информации, личных документов или внутренних бизнес-данных в чат-боты на основе ИИ, особенно на те платформы, операторы которых неизвестны.
Пользователям следует включить функции безопасности, такие как временный режим чата, автоматическое удаление истории переписки, а также отключить параметры, позволяющие системе использовать данные для обучения ИИ. Для ограничения риска компрометации учетной записи следует также включить двухфакторную аутентификацию.
По словам эксперта Нго Минь Хиеу, если хакеры получат контроль над учетной записью личного чат-бота с искусственным интеллектом, они смогут использовать всю информацию, которой пользователь ранее поделился.
«С помощью простой команды, например: „Расскажите мне все, что вы обо мне знаете“, ИИ может полностью агрегировать множество личных данных пользователей», — предупредил г-н Хиеу.
Форум «Цифровое доверие в финансах 2026» организован Альянсом цифрового доверия в сотрудничестве с Национальной ассоциацией кибербезопасности и MoMo под патронажем Министерства общественной безопасности , Государственного банка Вьетнама и Министерства финансов.
Мероприятие собрало экспертов и представителей бизнеса из финансового, банковского и технологического секторов для обсуждения решений по защите пользователей и укреплению цифрового доверия в контексте быстро развивающегося искусственного интеллекта.
Источник: https://vtcnews.vn/mat-thay-tai-nghe-chua-chac-la-that-trong-thoi-ai-ar1017765.html
![[ГАЛЕРЕЯ] Оказывается, сверхдешевый API Claude AI продает пользовательские данные.](https://vphoto.vietnam.vn/thumb/402x226/vietnam/resource/IMAGE/2026/05/25/1779691077049_cl-6-png.webp)
Комментарий (0)