Limpiando la basura de la IA en internet.

VTV.vn - La "basura generada por IA" está planteando un nuevo desafío para los niños, ya que los algoritmos amplifican el contenido barato, repetitivo y adictivo en las plataformas digitales.

Un cartel de advertencia con la imagen de un robot y las palabras "AI Slop" (basura de IA). (Foto: Reuters)

Cuando muchos padres se quejan de que sus hijos pueden pasar horas frente a la pantalla del ordenador pero les cuesta concentrarse en sus estudios, perciben algo más que un simple cambio en los hábitos de entretenimiento. Detrás de los vídeos cortos y dinámicos, los colores vibrantes y los sonidos estimulantes constantes, se esconde todo un ecosistema digital diseñado para mantener a los espectadores enganchados el mayor tiempo posible. Las organizaciones médicas y de salud pública ahora ven el problema desde la misma perspectiva: la cuestión ya no es «cuántas horas frente a la pantalla», sino la calidad del contenido, el contexto de uso y los mecanismos de retención de la plataforma.

En este contexto, un nuevo término está cobrando cada vez más relevancia en el debate internacional: «basura de IA», que se traduce libremente como «basura de IA». Se refiere al contenido producido en masa mediante herramientas de inteligencia artificial, caracterizado por su bajo coste, alta velocidad y priorización de la cantidad, la interacción con el espectador y los ingresos publicitarios por encima del valor educativo o la coherencia. Cabe destacar que el debate actual no busca negar la IA como herramienta creativa, sino que se centra en una cuestión muy específica: cuando el contenido barato, repetitivo y superficial se amplifica mediante algoritmos, ¿quién será responsable de su impacto en los grupos de usuarios más vulnerables?

El problema se intensificó en abril de 2026, cuando más de 200 organizaciones y expertos enviaron una carta instando a Google y YouTube a tomar medidas más decisivas para proteger a los niños. Las demandas eran muy claras: etiquetar todo el contenido de IA, prohibir el contenido de IA en YouTube Kids, bloquear las recomendaciones para menores de 18 años, añadir un botón de control parental para desactivar el contenido de IA y dejar de invertir en la producción de vídeos con IA para niños. En esa carta abierta, Fairplay argumentó que los principales canales con IA dirigidos a niños pequeños generaban más de 4,25 millones de dólares en ingresos anuales. Detrás de estas cifras se esconde una lógica empresarial muy conocida en la era de las plataformas: lo que es barato, rápido de producir y mantiene a los espectadores enganchados durante mucho tiempo se amplifica fácilmente.

El logotipo de Google se muestra en un teléfono, con el logotipo de YouTube detrás en la pantalla de una computadora en Ankara, Turquía, el 2 de julio de 2025. (Foto de AFP).jpg

Lo que preocupa a los padres no es solo la cantidad de contenido. El problema es que es difícil evitarlo. Fairplay cita una investigación de la prensa internacional que muestra que, después de ver programas preescolares populares como Cocomelon, alrededor del 40 % de los siguientes videos sugeridos por YouTube contienen elementos de IA. Otro estudio citado por la prensa muestra que alrededor del 21 % de los Shorts sugeridos a las nuevas cuentas de usuario son basura generada por IA; 278 canales generados completamente por IA han acumulado aproximadamente 63 mil millones de visualizaciones, 221 millones de suscriptores y unos ingresos anuales estimados de 117 millones de dólares. Desde la perspectiva del negocio del contenido, esto ya no es un "nicho", sino que se ha convertido en una línea de producción realmente rentable.

Pero, ¿por qué los expertos prestan especial atención a los niños? En primer lugar, la evidencia existente sugiere que la mayoría de los videos que los niños pequeños ven en plataformas abiertas no son necesariamente contenido educativo de calidad. Common Sense Media señala que solo alrededor del 5 % de los videos vistos por niños de 8 años o menos tienen un alto valor educativo, mientras que el 75 % tienen poco o ningún valor educativo. El informe también muestra que el 30 % de los videos contienen al menos violencia física leve, y el 20 % contienen violencia interpersonal como burlas, acoso o comportamiento manipulador. Esto significa que, incluso antes de la "ola de la IA", el entorno de video para niños en plataformas abiertas ya necesitaba una supervisión más estricta. La IA solo hace que la producción de este tipo de contenido sea más barata, rápida y extensa.

La aplicación YouTube Kids se muestra en la pantalla de un teléfono en Cracovia, Polonia, el 7 de junio de 2025. (Foto: NurPhoto, AFP).jpg

Actualmente, la respuesta de YouTube no ha tranquilizado del todo a los observadores. La plataforma exige que se indique la autenticidad del contenido compilado o editado, pero muchos vídeos animados para niños quedan fuera de este requisito. WIRED ha señalado que los vídeos animados dirigidos a niños pequeños pueden eludir la norma de etiquetado de deepfakes porque se consideran "irreales", a pesar de que este es precisamente el tipo de contenido que influye profundamente en las experiencias infantiles. Por ello, los defensores argumentan que el etiquetado por sí solo es insuficiente, especialmente cuando los niños pequeños ni siquiera saben leer para comprender las descripciones. Sin embargo, cabe destacar que YouTube ha declarado públicamente que abordar los problemas de la IA es una prioridad para 2026 y que también está añadiendo herramientas de supervisión para las familias.

En un contexto más amplio, la "limpieza digital" no es solo para niños. El mundo digital revela una realidad distinta: el daño digital puede convertirse en daño real. La OMS/Europa informa que aproximadamente una sexta parte de los adolescentes ha sufrido acoso cibernético; UNICEF señala que más de un tercio de los jóvenes en 30 países afirma haber sido víctima de ciberacoso. En el caso de las mujeres y las niñas, ONU Mujeres informa que el ciberacoso tiene una prevalencia de entre el 16 % y el 58 %, mientras que estudios internacionales han constatado que el 58 % de las niñas y mujeres jóvenes sufren acoso en línea. A medida que la IA facilita y agiliza la creación de imágenes, vídeos y contenido difamatorio falsos, este riesgo aumenta aún más.

Un adolescente ve un video en su teléfono en Francia, el 3 de enero de 2026. (Foto: Reuters).JPG

¿Cómo debemos entender la "limpieza con IA"? Si la entendemos simplemente como la eliminación de algunos vídeos ofensivos, solo estamos abordando los síntomas. En realidad, necesitamos limpiar todo el "sistema" que distribuye contenido basura a los usuarios: reglas de etiquetado más claras; diseños predeterminados más seguros para niños; menor dependencia de algoritmos que optimizan el tiempo de visualización; datos abiertos para la investigación independiente; y obligar a las plataformas a responder con mayor rapidez al contenido dañino. La Ley Europea de Servicios Digitales sigue esta línea al exigir a las principales plataformas que reduzcan los riesgos para los menores, permitir a los usuarios elegir feeds no personalizados y prohibir la publicidad dirigida a niños. En el ámbito familiar, YouTube también ha añadido límites de tiempo para desplazarse por Shorts, recordatorios de descanso y recordatorios para ir a dormir en las cuentas supervisadas; para las cuentas de niños pequeños, los padres pueden usar la selección de contenido o la navegación manual de vídeos.

Para Vietnam, este problema requiere un enfoque más prudente que alarmista. No todo el contenido generado por IA es basura. Pero cuando las plataformas priorizan la gratificación instantánea sobre el valor a largo plazo, cuando las advertencias no son lo suficientemente claras para los niños y cuando los padres están constantemente pendientes de cada video, el problema ya no se limita a la habilidad individual. Se trata de un problema de estándares de las plataformas, educación sobre seguridad digital en las escuelas, responsabilidad de las empresas tecnológicas e incluso del marco regulatorio público.

En un entorno en línea cada vez más saturado y repleto de contenido agregado, la limpieza mediante IA es, por lo tanto, algo más que simplemente eliminar algunos productos defectuosos; fundamentalmente, se trata de un esfuerzo por limpiar los mecanismos que están convirtiendo la atención de las personas, especialmente la de los niños, en un recurso sobreexplotado.

Fuente: https://vtv.vn/don-rac-ai-tren-moi-truong-mang-100260525192558675.htm