Оскорбительный аудиоматериал, созданный с помощью ИИ: спам-контент привлекает миллионы просмотров

(Дэн Три) - Чем проще создавать видеоролики с контентом и изображениями с помощью ИИ, тем больше создается «интернет-мусора».

Аудиорассказы, удобная форма «чтения» книг, становятся благодатной почвой для каналов YouTube, которые используют технологию искусственного интеллекта для создания сенсационного, жестокого контента с целью привлечения просмотров, что приводит к тревожным последствиям.

Аудиорассказы — не новая концепция на YouTube, привлекающая большое количество занятых пользователей, желающих получить доступ к контенту, не тратя время на чтение.

При поддержке настоящих человеческих голосов или искусственного интеллекта литературные произведения, любовные романы, детективы, истории ужасов... преобразуются в видеоролики различной длительности.

Однако многие каналы YouTube злоупотребляют быстрым развитием технологий искусственного интеллекта. Они создают серии повествовательных видеороликов с сенсационным и жестоким контентом, апеллируя к любопытству зрителей, чтобы привлечь внимание и просмотры.

Оскорбительные, жуткие аудиоистории привлекают миллионы просмотров

Создание контента и изображений стало ещё проще благодаря обилию программного обеспечения и веб-сайтов на основе искусственного интеллекта. Всего несколько простых команд позволяют пользователям создавать контент и изображения по запросу.

Пользуясь этим, многие каналы YouTube публикуют аудиоистории, контент, изображения и голоса которых являются продуктами искусственного интеллекта.

Закрепленный канал комментариев подтверждает вымышленный характер жестокого контента, но неясно, почему была добавлена ​​подпись «передача позитивного сообщения» (скриншот).

Поиск по фразе «аудиоистория богатой женщины» показывает серию видеороликов с похожим содержанием и изображениями, все из которых сгенерированы искусственным интеллектом.

Несмотря на разную продолжительность, все эти видеоролики объединяет сенсационные, жестокие сюжеты, созданные и прочитанные искусственным интеллектом.

Благодаря интригующему содержанию и голосам детективов эти видеоролики быстро привлекают тысячи, а то и миллионы просмотров и взаимодействий.

Ежедневно на этих каналах публикуется 2–3 видеоролика, привлекая большое количество зрителей и подписчиков.

Виртуальный контент, реальное влияние

Стоит отметить, что многие нелепые истории, даже несмотря на то, что сами каналы признают их «несоответствием действительности» и «все детали вымышлены», все равно привлекают зрителей.

На самом деле многие люди, особенно пожилые или те, кто мало разбирается в технологиях, верят, что эти истории правдивы.

Пользователи выразили обеспокоенность по поводу созданного искусственным интеллектом аудио-видеорассказа в Threads, который вызывает недопонимание у родителей и пожилых людей (Фото: Скриншот).

Контент, особенно изображения, созданные искусственным интеллектом, становятся всё более реалистичными, что затрудняет различение настоящего и поддельного. Пользуясь трендами и горячими новостями, многие каналы на YouTube также создают видеоролики, «следящие» за событиями, чтобы привлечь просмотры.

Хотя ИИ приносит множество преимуществ, распространение виртуальных видеороликов с жестоким и оскорбительным содержанием имеет серьезные последствия.

Эти аудио-видеоролики с историями по-прежнему собирают тысячи просмотров, и чем шокирующе и жестоко содержание, тем выше взаимодействие.

Хотя многие каналы заявляют, что их контент вымышленный, и «снимают с себя ответственность», это не значит, что он не влияет на восприятие зрителей и даже их поведение. Дисклеймеры — это всего лишь способ для каналов «очистить себя» от создаваемого ими мусора.

Вопрос в том, что произойдет, если зрители не смогут отличить фейковые новости от настоящих, и как повлияет на детей случайный просмотр контента, содержащего много элементов насилия?

Доктор Нгуен Ван Сон, преподаватель факультета информационных технологий Вьетнамского национального университета в Ханое , подчеркнул: «ИИ может внести большой практический вклад в сообщество и общество, но если его эксплуатировать и использовать в неправильных целях, он может привести ко многим серьезным последствиям».

По словам доктора Нгуена Ван Сона, пользователям необходимо повысить свою осведомленность и ответственность при обращении к ИИ и его применении (фото: предоставлено персонажем).

Доктор Сон призвал пользователей, особенно молодежь, повысить осведомленность и ответственность при подходе к использованию ИИ, стремясь создавать качественные, цивилизованные продукты вместо распространения мусора и оскорбительных продуктов, которые широко распространены в киберпространстве.

Привычка слушать аудиоистории не плоха, но непреднамеренная помощь людям в использовании этой привычки и технологических достижений для создания жестоких и оскорбительных продуктов загрязняет интернет-среду.

Пользователям необходимо проверять информацию и вооружиться «фильтрами», чтобы не быть введенными в заблуждение ложной информацией, вызывающей путаницу среди общественности.

Источник: https://dantri.com.vn/cong-nghe/truyen-audio-phan-cam-tao-bang-ai-noi-dung-rac-thu-hut-trieu-view-20250723151755041.htm