Limpando o lixo de IA na internet.

VTV.vn - O "lixo de IA" representa um novo desafio para as crianças, já que conteúdo barato, repetitivo e viciante é amplificado por algoritmos em plataformas digitais.

Uma placa de aviso com um robô e os dizeres "AI Slop" (Ação Inteligente Desleixada). (Foto: Reuters)

Quando muitos pais reclamam que seus filhos conseguem ficar horas sentados em frente às telas do computador, mas têm dificuldade para se concentrar nos estudos, eles percebem mais do que apenas uma mudança nos hábitos de entretenimento. Por trás dos vídeos curtos e dinâmicos, das cores vibrantes e dos sons estimulantes constantes, existe todo um ecossistema digital projetado para manter os espectadores engajados pelo maior tempo possível. Organizações médicas e de saúde pública agora enxergam a questão da mesma forma: a pergunta não é mais "quantas horas em frente a uma tela", mas sim sobre a qualidade do conteúdo, o contexto de uso e os mecanismos de retenção da plataforma.

Nesse contexto, um novo termo vem surgindo com frequência no debate internacional: "lixo de IA", que pode ser traduzido livremente como "conteúdo de IA de baixa qualidade". Refere-se a conteúdo produzido em massa usando ferramentas de inteligência artificial, que é de baixo custo, de alta velocidade e prioriza a quantidade, o engajamento do público e a receita publicitária em detrimento do valor educativo ou da consistência. É importante ressaltar que o debate atual não visa negar a IA como ferramenta criativa, mas sim se concentra em uma questão muito específica: quando conteúdo barato, repetitivo e superficial é amplificado por algoritmos, quem será responsabilizado pelo impacto sobre os grupos de usuários mais vulneráveis?

A questão se intensificou em abril de 2026, quando mais de 200 organizações e especialistas enviaram uma carta instando o Google e o YouTube a tomarem medidas mais decisivas para proteger as crianças. As demandas eram bastante claras: rotular todo o conteúdo de IA, banir o conteúdo de IA do YouTube Kids, bloquear recomendações para menores de 18 anos, adicionar um botão de controle parental para desativar o conteúdo de IA e parar de investir na produção de vídeos com IA para crianças. Nessa carta aberta, a Fairplay argumentou que os principais canais com IA voltados para crianças pequenas geravam mais de US$ 4,25 milhões em receita anualmente. Por trás desses números, reside uma lógica de negócios familiar da era das plataformas digitais: o que é barato, rápido de produzir e mantém os espectadores engajados por muito tempo é facilmente amplificado.

O logotipo do Google é exibido em um telefone, com o logotipo do YouTube atrás, na tela de um computador, em Ancara, Turquia, em 2 de julho de 2025. (Foto AFP).jpg

O que preocupa os pais não é apenas a quantidade de conteúdo. O problema é que é difícil evitá-lo. A Fairplay cita pesquisas da imprensa internacional que mostram que, após assistirem a programas populares para crianças em idade pré-escolar, como Cocomelon, cerca de 40% dos vídeos sugeridos pelo YouTube contêm elementos de inteligência artificial. Outro estudo citado pela imprensa mostra que cerca de 21% dos vídeos curtos sugeridos a novas contas de usuários são conteúdo gerado por IA; 278 canais inteiramente gerados por IA acumularam aproximadamente 63 bilhões de visualizações, 221 milhões de inscritos e uma receita anual estimada em US$ 117 milhões. Do ponto de vista do mercado de conteúdo, isso deixou de ser um "nicho" e se tornou uma linha de produção verdadeiramente lucrativa.

Mas por que os especialistas estão dando atenção especial às crianças? Primeiro, as evidências existentes sugerem que a maioria dos vídeos que crianças pequenas assistem em plataformas abertas não são necessariamente conteúdo educativo de qualidade. A Common Sense Media observa que apenas cerca de 5% dos vídeos assistidos por crianças de até 8 anos têm alto valor educativo, enquanto 75% têm pouco ou nenhum valor educativo. O relatório também mostra que 30% dos vídeos contêm pelo menos violência física leve e 20% contêm violência interpessoal, como provocações, bullying ou comportamento manipulador. Isso significa que, mesmo antes da "onda da IA", o ambiente de vídeos para crianças em plataformas abertas já precisava de um monitoramento mais rigoroso. A IA apenas torna a produção desse tipo de conteúdo mais barata, rápida e abrangente.

O aplicativo YouTube Kids é exibido na tela de um celular em Cracóvia, Polônia, em 7 de junho de 2025. (Foto: NurPhoto, AFP).jpg

Atualmente, a resposta do YouTube não tranquilizou completamente os observadores. A plataforma exige a divulgação de conteúdo compilado ou editado que pareça autêntico, mas muitos vídeos animados para crianças não se enquadram nesse requisito. A WIRED destacou que vídeos animados voltados para crianças pequenas podem escapar da regra de rotulagem de deepfakes porque são considerados "irreais", mesmo que esse seja justamente o tipo de conteúdo que se infiltra profundamente nas experiências das crianças. É por isso que os defensores argumentam que a rotulagem por si só é insuficiente, especialmente quando as crianças pequenas podem nem saber ler para entender as descrições. No entanto, vale ressaltar que o YouTube declarou publicamente que combater a má qualidade da IA ​​é uma prioridade para 2026 e também está adicionando ferramentas de monitoramento para famílias.

Considerando o panorama geral, a "limpeza por IA" não se limita apenas a crianças. O mundo online está revelando uma realidade diferente: o dano digital pode, sim, se traduzir em dano real. A OMS/Europa relata que cerca de um sexto dos adolescentes já sofreu bullying online; o UNICEF observa que mais de um terço dos jovens em 30 países afirmam ter sido vítimas de cyberbullying. Para mulheres e meninas, a ONU Mulheres relata que o cyberbullying é prevalente entre 16% e 58%, enquanto estudos internacionais constataram que 58% das meninas e mulheres jovens sofrem assédio online. À medida que a IA torna a criação de imagens, vídeos e conteúdo difamatório falsos mais barata e rápida, esse risco aumenta ainda mais.

Um adolescente assiste a um vídeo no celular na França, em 3 de janeiro de 2026. (Foto: Reuters).JPG

Então, como devemos entender a "limpeza por IA"? Se a entendermos simplesmente como excluir alguns vídeos ofensivos, estaremos tratando apenas os sintomas. Na realidade, precisamos limpar todo o "canal" que leva o conteúdo indesejado aos usuários: regras de rotulagem mais claras; designs padrão mais seguros para crianças; menor dependência de algoritmos que otimizam o tempo de visualização; dados abertos para pesquisa independente; e obrigar as plataformas a responderem mais rapidamente a conteúdo prejudicial. A Lei Europeia de Serviços Digitais segue essa direção, exigindo que as principais plataformas reduzam os riscos para menores, permitindo que os usuários escolham feeds não personalizados e proibindo a publicidade direcionada a crianças. No âmbito familiar, o YouTube também adicionou limites de tempo para a exibição de vídeos curtos, lembretes de pausa e lembretes para dormir para contas supervisionadas; para contas de crianças pequenas, os pais podem usar a seleção de conteúdo ou a navegação manual de vídeos.

Para o Vietnã, essa questão precisa ser abordada com uma perspectiva mais cautelosa do que alarmista. Nem todo conteúdo gerado por IA é "lixo". Mas quando as plataformas priorizam a gratificação instantânea em detrimento do valor a longo prazo, quando os avisos não são claros o suficiente para as crianças e quando os pais estão constantemente monitorando cada vídeo, o problema deixa de ser apenas uma questão de habilidade individual. É um problema que envolve os padrões das plataformas, a educação em segurança digital nas escolas, a responsabilidade das empresas de tecnologia e até mesmo o arcabouço regulatório público.

Em um ambiente online cada vez mais saturado e repleto de conteúdo agregado, a limpeza por IA é, portanto, mais do que apenas remover alguns produtos ruins; fundamentalmente, é um esforço para limpar os mecanismos que estão transformando a atenção das pessoas, especialmente a das crianças, em um recurso superexplorado.

Fonte: https://vtv.vn/don-rac-ai-tren-moi-truong-mang-100260525192558675.htm