História de áudio ofensiva criada com IA: conteúdo de spam atrai milhões de visualizações

(Dan Tri) - Quanto mais simples for criar vídeos com conteúdo e imagens usando IA, mais "lixo da internet" será criado.

Histórias em áudio, uma forma conveniente de "ler" livros, estão se tornando terreno fértil para canais do YouTube que aproveitam a tecnologia de IA para produzir conteúdo sensacionalista e violento para atrair visualizações, causando consequências preocupantes.

Histórias em áudio não são um conceito novo no YouTube, atraindo um grande número de usuários ocupados que querem acessar o conteúdo sem precisar gastar tempo lendo.

Com o suporte de vozes humanas reais ou IA, obras literárias, romances, histórias de detetive, histórias de terror... são convertidas em vídeos de várias durações.

No entanto, o rápido desenvolvimento da tecnologia de IA tem sido alvo de abusos por parte de muitos canais do YouTube, que criam uma série de vídeos narrativos com conteúdo sensacionalista e violento, apelando à curiosidade dos espectadores para atrair interações e visualizações.

História de áudio nojenta e assustadora atrai milhões de visualizações

Criar conteúdo e imagens nunca foi tão fácil graças à infinidade de softwares e sites de IA. Com apenas alguns comandos simples, os usuários podem criar conteúdo e imagens sob demanda.

Aproveitando isso, muitos canais do YouTube postaram histórias em áudio cujo conteúdo, imagens e vozes são todos produtos da IA.

O canal de comentários fixado afirma a natureza fictícia do conteúdo violento, mas não está claro por que adicionou a legenda “transmitindo uma mensagem positiva” (captura de tela).

A busca pela frase "história em áudio de mulher rica" ​​mostra uma série de vídeos com conteúdo e imagens semelhantes, todos gerados por IA.

Apesar de suas durações diferentes, todos esses vídeos têm em comum os enredos sensacionais e violentos criados e lidos pela IA.

Com conteúdo intrigante e uma voz detetivesca, esses vídeos atraem rapidamente milhares, até milhões de visualizações e interações.

Todos os dias, esses canais postam de 2 a 3 vídeos, atraindo um grande número de espectadores e assinantes.

Conteúdo virtual, impacto real

Vale ressaltar que muitas histórias sem sentido, mesmo que os próprios canais admitam que são "inverídicas" e que "todos os detalhes são fictícios", ainda atraem espectadores.

De fato, muitas pessoas, especialmente idosos ou aqueles com pouco conhecimento de tecnologia, acreditam que essas histórias são verdadeiras.

Usuários expressaram preocupação com um vídeo de história em áudio gerado por IA no Threads que causou mal-entendidos com pais e idosos (Foto: Captura de tela).

Conteúdo, especialmente imagens geradas por IA, está cada vez mais realista, dificultando a distinção entre real e falso. Aproveitando tendências e notícias quentes, muitos canais do YouTube também criam vídeos "seguindo" eventos para atrair visualizações.

Embora a IA traga muitos benefícios, a proliferação de vídeos virtuais com conteúdo violento e ofensivo está deixando consequências sérias.

Esses vídeos de histórias em áudio ainda atraem milhares de visualizações e, quanto mais chocante e violento o conteúdo, maior a interação.

Embora muitos canais afirmem que seu conteúdo é fictício e "se isentam de responsabilidade", isso não significa que não influencie a percepção dos espectadores e até mesmo seu comportamento. Isenções de responsabilidade são simplesmente uma forma de os canais se "limparem" do lixo que criam.

A questão é o que acontecerá se os espectadores não conseguirem distinguir entre notícias falsas e notícias reais, ou como as crianças serão afetadas quando assistirem acidentalmente a conteúdo com muitos elementos violentos?

O Dr. Nguyen Van Son, professor da Faculdade de Tecnologia da Informação da Universidade de Tecnologia (Universidade Nacional do Vietnã, Hanói ), enfatizou: "A IA pode trazer muitas contribuições práticas para a comunidade e a sociedade, mas quando explorada e usada para propósitos errados, pode trazer muitas consequências sérias."

De acordo com o Dr. Nguyen Van Son, os usuários precisam aumentar sua conscientização e responsabilidade ao abordar e aplicar a IA (Foto: personagem fornecida).

O Dr. Son pediu aos usuários, especialmente os jovens, que se conscientizem e sejam responsáveis ​​ao abordar e aplicar a IA, visando criar produtos civilizados e de qualidade, em vez de espalhar lixo e produtos ofensivos que estão disseminados no ciberespaço.

O hábito de ouvir histórias em áudio não é ruim, mas ajudar as pessoas, sem querer, a tirar proveito desse hábito e dos avanços tecnológicos para criar produtos violentos e ofensivos está poluindo o ambiente online.

Os usuários precisam verificar as informações e se equipar com um "filtro" para evitar serem enganados por informações falsas que causam confusão pública.

Fonte: https://dantri.com.vn/cong-nghe/truyen-audio-phan-cam-tao-bang-ai-noi-dung-rac-thu-hut-trieu-view-20250723151755041.htm