Видео, на котором предположительно искусственный интеллект выдает себя за инвалида, чтобы продавать товары, вызвало возмущение

В социальных сетях появилось множество видеороликов, на которых люди с ограниченными возможностями продают товары с необычными вывесками, что вызывает недоверие в обществе.

Аккаунт, использующий ИИ для выдачи себя за продавца. Фото: TikTok .

С появлением в последнее время ряда передовых инструментов искусственного интеллекта создание фотографий и видео стало значительно проще с помощью всего нескольких команд. Однако способность интернет-пользователей отличать настоящее от поддельного не поспевает за этим развитием и используется некоторыми злоумышленниками в корыстных целях.

В последнее время в социальных сетях распространяется аккаунт в TikTok, публикующий серию видеороликов о женщине с ампутированными руками, вынужденной продавать товары, чтобы прокормить своих маленьких детей. В роликах эта женщина носит простую одежду и сочувственно рассказывает о таких товарах, как бумажные полотенца и моющее средство.

Согласно записи, женщина рассказала о ранней смерти мужа в результате несчастного случая, о том, что ей пришлось одной растить маленького ребёнка. Однако в разных видеороликах история не была последовательной. Аккаунт набрал более миллиона просмотров и взаимодействий, увеличив число подписчиков до 100 000 за 3 дня после создания канала. Многие выражали сочувствие, просили поддержки и даже заказывали товары первой необходимости.

Пользователи продолжают находить аккаунты с похожим контентом. Общее у этих каналов то, что они представляют собой недавно созданные личные страницы, не имеют реальной истории взаимодействия и часто публикуют чрезмерно эмоциональный контент.

Эти каналы часто являются новыми и не имеют четкого профиля.

Однако через некоторое время пользователи сети стали замечать в каждом видео что-то необычное и непоследовательное. Например, ампутированная рука женщины выглядела очень гладкой, краска на стенах дома была другой, а ребёнок лежал необычно неподвижно. Причина заключалась в том, что все ролики были созданы искусственным интеллектом, чтобы обмануть других.

Стоит отметить, что предупреждающие или разоблачительные комментарии были скрыты или удалены владельцем аккаунта. Многие были оскорблены обманом и возмущены поведением, основанным на наживе на чужом сочувствии.

Кроме того, эти фейковые видео затрагивают владельцев и других людей с ограниченными возможностями, которые зарабатывают на жизнь на этой платформе. Госпоже Тран Тхи Нга (36 лет) из Фу Тхо , владелице канала Nga Tich Cuc, пришлось постоянно говорить, что у неё действительно ампутирована рука.

В конце 2024 года эта женщина заболела острым вирусным миокардитом и была вынуждена ампутировать все конечности, начав жизнь заново с любовью и заботой семьи. В недавнем прямом эфире она выразила свою грусть из-за сомнений и резких слов.

Эти недавно созданные каналы также быстро набрали большое количество подписчиков, что затрудняло их дифференциацию. Другой аккаунт с похожим контентом под названием NLS увеличил число подписчиков почти на 50 000 всего после одного видео.

Пользователи выразили возмущение и потерю доверия, столкнувшись с обманом.

Поэтому невозможно винить интернет-сообщество в том, что оно постепенно теряет веру в то, что видит, и, следовательно, перестаёт заботиться о тех, кто действительно нуждается в помощи. В одном из комментариев говорится, что те, кто использует технологии искусственного интеллекта для эксплуатации эмоций сообщества, должны быть осуждены.

Схемы кибермошенничества становятся всё более изощрёнными, нацеленными на людей, редко контактирующих с другими людьми, или пожилых людей. Большинство владельцев аккаунтов используют изображения людей, переживших травму, например, госпитализированных или получивших инвалидность, а затем прикрепляют к ним корзины покупок или оставляют номера счёта для обращения в службу поддержки.

Ранее телеканал CNBC обнаружил более 30 аккаунтов в Instagram, YouTube и TikTok, которые использовали искусственный интеллект для выдачи себя за людей с синдромом Дауна. Эти люди использовали душераздирающие истории, чтобы привлечь подписчиков и призвать к сбору средств, но на самом деле они присваивали себе эти аккаунты.

Этот инцидент служит предупреждением о возможности использования злоумышленниками способности ИИ воспроизводить реалистичный контент. В условиях стремительного развития технологий пользователям необходимо популяризировать их, а также помогать своим близким не стать жертвами онлайн-мошенничества.

Источник: https://znews.vn/video-nghi-ai-gia-nguoi-khuet-tat-ban-hang-gay-buc-xuc-post1598306.html