От изображений и видео до песен ИИ: остерегайтесь «торнадо» контента ИИ в социальных сетях

Искусственный интеллект (ИИ) используется в коммерческой деятельности в Интернете — от мошенничества в сфере продаж до благотворительности, что вынуждает регулирующие органы и компании быстро находить решения для выявления и контроля рисков в эпоху искусственного контента.

Все больше изображений и видео , отредактированных и добавленных с помощью искусственного интеллекта, публикуются в социальных сетях для привлечения просмотров. Фото: ДЮК ТЬЕН

Если раньше для создания поддельной фотографии обычным пользователям приходилось нанимать специалистов по Photoshop, то сегодня, благодаря искусственному интеллекту, менее чем за 5 минут и при наличии некоторых базовых навыков набор поддельных фотографий может появиться где угодно.

Когда ИИ создает изображения, видео, песни... настолько реалистично, что трудно поверить

Г-жа Хоан Май (Хошимин), специалист по коммуникациям, которая регулярно посещает Facebook, отметила, что пользователи публикуют все больше контента с использованием инструментов искусственного интеллекта.

«Друзья или участники групп публикуют множество фотографий, которые настолько реалистичны, что я бы не смогла определить, использовался ли ИИ, если бы они сами об этом не сказали. Всё больше видео — от анимации и воображаемых сцен до короткометражных фильмов или видеороликов, связанных с реальными событиями, — создаются с помощью инструментов ИИ, но я бы не смогла этого узнать», — поделилась г-жа Май.

Не только изображения и видео, но и в социальной сети YouTube можно найти множество песен, исполняемых или сочиняемых «певцами с искусственным интеллектом». Многие пользователи в восторге от нового опыта и наперегонки делятся им с друзьями в социальных сетях.

«Я не могу сказать, поёт ли это ИИ, если об этом не объявлено. Контент, созданный ИИ, становится всё более распространённым во вьетнамском киберпространстве. Обычные пользователи, такие как я, вероятно, скоро перестанут различать, какой контент исходит от реальных людей, какой — от ИИ или в нём задействован ИИ», — сказал Кхань Ха (Хошимин).

В последнее время на многих платформах социальных сетей во Вьетнаме появились видеоролики и прямые трансляции о продаже товаров людьми с ограниченными возможностями, что сделало интернет-сообщество более отзывчивым и побуждает к обмену информацией.

Однако впоследствии интернет-сообщество раскрыло множество случаев использования искусственного интеллекта для превращения обычных людей в людей с ограниченными возможностями. Цель этого трюка — воспользоваться состраданием зрителей для продажи товаров или совершения мошеннических действий.

Многие эксперты в области технологий отмечают, что в последнее время в социальных сетях всё чаще публикуются рекламные видеоролики с изображениями людей с ограниченными возможностями, больных или обездоленных, призванные вызвать сочувствие. Однако реальность показывает, что значительная часть этого контента создаётся или редактируется с помощью инструментов искусственного интеллекта, превращая обычных людей в людей с ограниченными возможностями ради прибыли или мошенничества.

В беседе с Туой Тре г-н Милко Радотич, вице-президент по Азиатско- Тихоокеанскому региону компании iProov, ведущего мирового поставщика технологий биометрической аутентификации, предупредил: «Наши исследования показывают, что 99,9% участников не могут распознать дипфейки. Даже современные передовые инструменты обнаружения сталкиваются с множеством трудностей».

Увеличьте сопротивление цифровых пользователей

Г-н Данг Хыу Сон — заместитель директора Института прикладных исследований и развития человеческих ресурсов AIOV, основатель и генеральный директор компании LovinBot AI — сказал, что с тех пор, как Google запустила технологию искусственного интеллекта Nano Banana, Veo 3, ByteDance запустила Seedream 4, а до этого OpenAI запустила GPT Image, рынок искусственного интеллекта был чрезвычайно оживленным, что также повлекло за собой множество последствий.

«Технологии никогда не были так доступны, как сегодня. Всё это чрезвычайно мощные модели искусственного интеллекта, которые могут «копировать лица» почти на 90%, а то и на 99% по сравнению с исходной фотографией», — прокомментировал г-н Сон.

Если раньше, чтобы создать фальшивую фотографию, обычным пользователям приходилось нанимать специалистов по Photoshop, то сегодня с помощью искусственного интеллекта, менее чем за 5 минут и при наличии базовых навыков, набор фальшивых фотографий, фальшивое видео, которое вырезается и вставляется, а также к которому добавлены новостные эффекты, можно распространить с головокружительной скоростью.

«Фейковые новости повторяются многократно, с высокой плотностью и лёгким доступом, поэтому большое количество людей, которые сталкиваются с ними каждый день, поверят в их правдивость. Поэтому необходимы решения, позволяющие ограничить вышеуказанные проблемы», — отметил г-н Сон.

По словам г-на Чинь Нгуен Тьен Фуока, директора по технологиям компании Gianty Vietnam, для того, чтобы различать контент, созданный с помощью ИИ, необходимы три уровня: (1) навыки верификации пользователей (вместе с золотыми правилами); (2) технические инструменты, такие как учетные данные контента (C2PA), идентификационные знаки водяных знаков (SynthID, AudioSeal) и детектор глубоких фейков; (3) процесс координации между связанными сторонами, такими как: платформы, сетевые операторы, банки...

В частности, золотое правило должно выполняться очень быстро, в течение 30–60 секунд, в том числе: не нажимайте на странные ссылки и перейдите на официальный сайт/приложение для проверки; немедленно останавливайтесь, если сталкиваетесь с ключевыми словами, которые подталкивают к действию (OTP/денежный перевод/срочно).

В то же время пользователи должны свериться с двумя независимыми источниками, прежде чем верить; проверить дату, время и контекст (старые новости замаскированы под новые); перезвонить по официальному номеру, который вы нашли сами, не использовать номер, предоставленный другими; с помощью изображений и видео пользователи могут осуществлять поиск по связанным результатам...

Многие эксперты считают, что наиболее фундаментальным решением для борьбы с волной фейкового контента, создаваемого искусственным интеллектом, является повышение осведомлённости общественности. Вместо того, чтобы сосредотачиваться только на технических мерах, необходимо разрабатывать обучающие программы, проводить соревнования или моделировать реальные ситуации, чтобы помочь людям изменить свои привычки потребления информации.

Для молодёжи, особенно студентов, сочетание онлайн-конкурсов и медийных кампаний с участием знаменитостей или лидеров общественного мнения может создать естественную привлекательность, помогая им учиться и приобретать опыт, одновременно совершенствуя навыки распознавания фейковых новостей и фейковых видеороликов. В то же время пожилым людям, особенно в сельской местности, необходимы более привычные и интуитивно понятные формы, такие как иллюстрированные брошюры, обучающие видео или показы в домах культуры и на общественных мероприятиях.

«Подход, подходящий для каждой группы людей, поможет создать прочную, долгосрочную основу для повышения осведомлённости, а не ограничиваться краткосрочными мероприятиями. Например, некоторые подразделения разработали расширения, которые можно установить в браузер Chrome, чтобы помочь пользователям проверять новости при просмотре веб-страниц или социальных сетей...», — поделился г-н Данг Хыу Сон.

Использование ИИ для обнаружения поддельного ИИ

Недавно компания Honor интегрировала функцию обнаружения фейков на основе искусственного интеллекта (ИИ) в свою новую линейку телефонов. Эта функция анализирует изображения и голоса за 3 секунды, чтобы распознавать фейки прямо в таких приложениях, как Messenger, Zalo, Viber или Google Meet, становясь своего рода «цифровым щитом», защищающим пользователей от высокотехнологичного мошенничества.

Ранее, в сентябре 2025 года, MoMo объявила о сотрудничестве с iProov с целью внедрения технологии Dynamic Liveness, которая поможет удостовериться в реальности пользователей, их подлинности и присутствии на момент совершения транзакции, предотвращая мошенничество с использованием deepfake, поддельных видео или изображений.

В секторах с высоким уровнем риска, таких как финансы, этот уровень безопасности имеет решающее значение для предотвращения мошенничества, предотвращения несанкционированного доступа и поддержания доверия пользователей к платформе.

Вернуться к теме

ДОСТОИНСТВО

Источник: https://tuoitre.vn/tu-hinh-anh-video-den-ca-khuc-ai-can-trong-con-loc-noi-dung-ai-tren-mang-xa-hoi-20251109232702736.htm