Почему фейковые видео о наводнении, созданные ИИ, могут «обойти» Facebook и TikTok

(NLDO) - Поддельные видеоролики, созданные искусственным интеллектом, часто привлекают большое количество зрителей и репостов, поскольку они вызывают любопытство и сочувствие у людей в районах, пострадавших от наводнений.

Во время продолжительных наводнений в Центральном регионе в социальных сетях распространилось множество фейковых видеороликов, созданных с помощью искусственного интеллекта. В основном, эти видеоролики содержат изображения людей, оказавшихся в ловушке, домов, смытых наводнением, аварийно-спасательных работ и т.д., искажая при этом ситуацию и даже критикуя власти.

Эти фейковые видеоролики привлекают сотни тысяч и миллионы просмотров и репостов, потому что они взывают к сочувствию и вызывают сильные эмоции, как, например, сцена, где мальчик обнимает собаку на крыше посреди моря воды, или люди, борющиеся с наводнением... Многие аккаунты используют сочувствие, чтобы «привлекать» взаимодействия, продавать товары или формировать общественное мнение.

Пользователи, делящиеся изображениями неизвестного происхождения, быстро распространяют фейковые новости и вызывают серьезное недопонимание реальной ситуации.

Примечательно, что, хотя это продукт ИИ, при публикации в социальных сетях он не помечается платформой как ИИ.

Видеоролики, созданные с помощью ИИ, размещены в социальных сетях, но не помечены как созданные с помощью ИИ

Г-н Ле Ань Банг, директор по клиентским решениям в Haravan Technology Joint Stock Company, отметил, что тот факт, что многие видеоролики создаются или обрабатываются с помощью ИИ, но не имеют метки «сгенерировано ИИ» на платформах TikTok и Facebook, может быть связан с изменениями в том, как платформы идентифицируют и классифицируют контент.

По словам г-на Бэнга, если видео полностью создано ИИ, вероятность его обнаружения и маркировки всё ещё высока. Однако, когда речь идёт о контенте, предполагающем участие человека, например, использование реальных изображений и видео с последующим использованием ИИ для монтажа, редактирования сцен или создания движений, системе сложно определить границу между «контентом, созданным ИИ» и «контентом с использованием ИИ».

Именно эта неоднозначность приводит к тому, что многие видеоролики с элементами ИИ по-прежнему отображаются как обычные клипы, без предупреждения.

По словам г-на Банга, в настоящее время технологии искусственного интеллекта развиваются очень быстрыми темпами, при этом платформам нужно время для обновления алгоритмов и создания новых критериев распознавания.

Хотя большая часть контента в цифровой среде сегодня создается с участием ИИ, правовой коридор все еще находится в стадии совершенствования, что делает полный контроль весьма затруднительным.

Поэтому каждому пользователю социальной сети необходимо быть более осторожным при получении и распространении информации, поскольку непроверенный клик может непреднамеренно способствовать распространению фейковых новостей.

Исследование, проведенное американской исследовательской компанией HostingAdvice, показало, что 58% американцев в возрасте 18–43 лет были обмануты контентом, созданным искусственным интеллектом, что подчеркивает растущую опасность фейковых новостей и подрыв доверия к информации на платформах.

Источник: https://nld.com.vn/ly-do-khien-video-bao-lu-gia-duoc-tao-boi-ai-co-the-qua-mat-facebook-tiktok-196251124122152335.htm