Оскорбительный аудиоматериал, созданный с помощью ИИ: спам-контент привлекает миллионы просмотров

(Дэн Три) - Чем проще создавать видеоролики с контентом и изображениями с помощью ИИ, тем больше создается «интернет-мусора».

Аудиорассказы, удобная форма «чтения» книг, становятся благодатной почвой для каналов YouTube, которые используют технологию искусственного интеллекта для создания сенсационного, жестокого контента с целью привлечения просмотров, что приводит к тревожным последствиям.

Аудиорассказы — не новая концепция на YouTube, привлекающая большое количество занятых пользователей, желающих получить доступ к контенту, не тратя время на чтение.

При поддержке настоящих человеческих голосов или искусственного интеллекта литературные произведения, любовные романы, детективы, истории ужасов... преобразуются в видеоролики различной длительности.

Однако многие каналы YouTube злоупотребляют быстрым развитием технологий искусственного интеллекта. Они создают серии повествовательных видеороликов с сенсационным и жестоким контентом, апеллируя к любопытству зрителей, чтобы привлечь внимание и просмотры.

Отвратительная, жуткая аудиоистория привлекает миллионы просмотров

Создание контента и изображений стало ещё проще благодаря обилию программного обеспечения и веб-сайтов на основе искусственного интеллекта. Всего несколько простых команд позволяют пользователям создавать контент и изображения по запросу.

Пользуясь этим, многие каналы YouTube публикуют аудиоистории, содержание, изображения и голоса которых являются продуктами искусственного интеллекта.

Закрепленный канал комментариев подтверждает вымышленный характер жестокого контента, но неясно, почему была добавлена подпись «передача позитивного сообщения» (скриншот).

Поиск по фразе «аудиоистория богатой женщины» показывает серию видеороликов с похожим содержанием и изображениями, все из которых сгенерированы искусственным интеллектом.

Несмотря на разную продолжительность, все эти видеоролики объединяет сенсационные, жестокие сюжеты, созданные и прочитанные искусственным интеллектом.

Благодаря интригующему содержанию и детективному тону эти видеоролики быстро привлекают тысячи, а то и миллионы просмотров и взаимодействий.

Ежедневно на этих каналах публикуется 2–3 видеоролика, привлекая большое количество зрителей и подписчиков.

Виртуальный контент, реальное влияние

Стоит отметить, что многие нелепые истории, даже несмотря на то, что сами каналы признают их «несоответствием действительности» и «все детали вымышлены», все равно привлекают зрителей.

На самом деле многие люди, особенно пожилые или те, кто мало разбирается в технологиях, верят, что эти истории правдивы.

Пользователи выразили обеспокоенность по поводу созданного искусственным интеллектом аудио-видеоролика в Threads, который вызвал недопонимание у родителей и пожилых людей (Фото: Скриншот).

Контент, особенно изображения, созданные искусственным интеллектом, становятся всё более реалистичными, что затрудняет различение настоящего и поддельного. Пользуясь трендами и горячими новостями, многие каналы на YouTube также создают видеоролики, «следящие» за событиями, чтобы привлечь просмотры.

Хотя ИИ приносит множество преимуществ, распространение виртуальных видеороликов с жестоким и оскорбительным содержанием имеет серьезные последствия.

Эти аудио-видеоролики по-прежнему собирают тысячи просмотров, и чем шокирующе и жестоко содержание, тем выше взаимодействие.

Хотя многие каналы заявляют, что их контент вымышленный, и «снимают с себя ответственность», это не значит, что он не влияет на восприятие зрителей и даже их поведение. Дисклеймеры — это всего лишь способ для каналов «очистить себя» от создаваемого ими мусора.

Вопрос в том, что произойдет, если зрители не смогут отличить фейковые новости от настоящих, и как повлияет на детей случайный просмотр контента, содержащего много элементов насилия?

Доктор Нгуен Ван Сон, преподаватель факультета информационных технологий Вьетнамского национального университета в Ханое , подчеркнул: «ИИ может внести большой практический вклад в сообщество и общество, но если его эксплуатировать и использовать в неправильных целях, он может привести ко многим серьезным последствиям».

По словам доктора Нгуена Ван Сона, пользователям необходимо повысить свою осведомленность и ответственность при обращении к ИИ и его применении (фото: предоставлено персонажем).

Доктор Сон призвал пользователей, особенно молодежь, повысить осведомленность и ответственность при подходе к использованию ИИ, стремясь создавать качественные, цивилизованные продукты вместо распространения мусора и оскорбительных продуктов, которые широко распространены в киберпространстве.

Привычка слушать аудиоистории не плоха, но непреднамеренная помощь людям в использовании этой привычки и технологических достижений для создания жестоких и оскорбительных продуктов загрязняет онлайн-среду.

Пользователям необходимо проверять информацию и вооружиться «фильтром», чтобы отличать правду от лжи, чтобы не быть введенными в заблуждение ложной информацией, вызывающей путаницу среди общественности.

Источник: https://dantri.com.vn/cong-nghe/truyen-audio-phan-cam-tao-bang-ai-noi-dung-rac-thu-hut-trieu-view-20250723151755041.htm