Nettoyer Internet des déchets liés à l'IA.

VTV.vn - « Les déchets de l'IA » constituent un nouveau défi pour les enfants, car les contenus bon marché, répétitifs et addictifs sont amplifiés par les algorithmes sur les plateformes numériques.

Un panneau d'avertissement représentant un robot et portant l'inscription « IA Slop ». (Photo : Reuters)

Lorsque de nombreux parents se plaignent que leurs enfants peuvent passer des heures devant un écran d'ordinateur sans parvenir à se concentrer sur leurs études, ils perçoivent bien plus qu'un simple changement de leurs habitudes de divertissement. Derrière les vidéos courtes et rythmées, les couleurs vives et les sons stimulants constants se cache tout un écosystème numérique conçu pour maintenir l'attention des utilisateurs le plus longtemps possible. Les organismes médicaux et de santé publique partagent désormais ce point de vue : il ne s'agit plus du nombre d'heures passées devant un écran, mais de la qualité du contenu, du contexte d'utilisation et des mécanismes de fidélisation de la plateforme.

Dans ce contexte, un nouveau terme apparaît de plus en plus fréquemment dans le débat international : « IA slop », que l’on pourrait traduire approximativement par « déchets de l’IA ». Il désigne les contenus produits en masse à l’aide d’outils d’intelligence artificielle, peu coûteux, diffusés rapidement et privilégiant la quantité, l’engagement du spectateur et les revenus publicitaires au détriment de la valeur éducative ou de la cohérence. Il est important de noter que le débat actuel ne vise pas à nier l’IA en tant qu’outil créatif, mais se concentre plutôt sur une question très précise : lorsque des contenus bon marché, répétitifs et superficiels sont amplifiés par des algorithmes, qui sera tenu responsable de leur impact sur les groupes d’utilisateurs les plus vulnérables ?

Le problème s'est aggravé en avril 2026, lorsque plus de 200 organisations et experts ont adressé une lettre à Google et YouTube les exhortant à prendre des mesures plus décisives pour protéger les enfants. Leurs demandes étaient claires : étiqueter tous les contenus utilisant l'IA, interdire ces contenus sur YouTube Kids, bloquer les recommandations aux moins de 18 ans, ajouter un bouton de contrôle parental pour désactiver ces contenus et cesser d'investir dans la production de vidéos pour enfants basées sur l'IA. Dans cette lettre ouverte, Fairplay affirmait que les principales chaînes utilisant l'IA et ciblant les jeunes enfants généraient plus de 4,25 millions de dollars de revenus annuels. Derrière ces chiffres se cache une logique commerciale bien connue de l'ère des plateformes : ce qui est peu coûteux, rapide à produire et captive les spectateurs pendant longtemps est facilement amplifié.

Le logo de Google s'affiche sur un téléphone, avec le logo de YouTube en arrière-plan sur un écran d'ordinateur à Ankara, en Turquie, le 2 juillet 2025. (Photo AFP).jpg

Ce qui inquiète les parents, ce n'est pas seulement la quantité de contenu. Le problème, c'est qu'il est difficile de l'éviter. Fairplay cite une étude de la presse internationale montrant qu'après avoir regardé des programmes préscolaires populaires comme Cocomelon, environ 40 % des vidéos suggérées par YouTube contiennent des éléments d'intelligence artificielle. Une autre étude citée par la presse révèle qu'environ 21 % des vidéos courtes suggérées aux nouveaux utilisateurs sont de piètre qualité générées par l'IA ; 278 chaînes entièrement générées par l'IA ont cumulé environ 63 milliards de vues, 221 millions d'abonnés et un chiffre d'affaires annuel estimé à 117 millions de dollars. Du point de vue de l'industrie du contenu, il ne s'agit plus d'un marché de niche, mais d'une véritable machine à cash.

Mais pourquoi les experts s'intéressent-ils particulièrement aux enfants ? Premièrement, les données actuelles indiquent que la majorité des vidéos que les jeunes enfants regardent sur les plateformes ouvertes ne constituent pas nécessairement un contenu éducatif de qualité. Common Sense Media souligne que seulement 5 % environ des vidéos visionnées par les enfants de 8 ans et moins présentent une forte valeur éducative, tandis que 75 % n'en ont que peu ou pas. Le rapport montre également que 30 % des vidéos contiennent au moins une violence physique légère, et 20 % des violences interpersonnelles telles que des moqueries, du harcèlement ou des comportements manipulateurs. Cela signifie que même avant l'avènement de l'intelligence artificielle, l'environnement vidéo destiné aux enfants sur les plateformes ouvertes nécessitait déjà une surveillance accrue. L'IA ne fait que rendre la production de ce type de contenu moins coûteuse, plus rapide et plus étendue.

L'application YouTube Kids est affichée sur un écran de téléphone à Cracovie, en Pologne, le 7 juin 2025. (Photo : NurPhoto, AFP).jpg

Pour l'instant, la réponse de YouTube n'a pas totalement rassuré les observateurs. La plateforme exige la mention de la présence de deepfakes pour les contenus compilés ou modifiés qui semblent authentiques, mais de nombreuses vidéos d'animation pour enfants échappent à cette obligation. WIRED a souligné que ces vidéos, destinées aux jeunes enfants, peuvent passer entre les mailles du filet de la réglementation car elles sont considérées comme « irréelles », alors même que ce type de contenu s'immisce profondément dans l'expérience des enfants. C'est pourquoi les défenseurs de la cause estiment que l'étiquetage seul est insuffisant, surtout lorsque les jeunes enfants ne savent pas encore lire pour comprendre les descriptions. Il convient toutefois de noter que YouTube a publiquement déclaré que la lutte contre les dérives de l'IA est une priorité pour 2026 et qu'il met également en place des outils de contrôle pour les familles.

Si l'on considère la situation dans son ensemble, le « nettoyage par l'IA » ne concerne pas uniquement les enfants. Le monde numérique révèle une autre réalité : les préjudices numériques peuvent avoir des conséquences bien réelles. L'OMS/Europe indique qu'environ un sixième des adolescents ont été victimes de cyberharcèlement ; l'UNICEF note que plus d'un tiers des jeunes dans 30 pays déclarent en avoir été victimes. Chez les femmes et les filles, ONU Femmes signale que le cyberharcèlement touche entre 16 % et 58 % d'entre elles, tandis que des études internationales ont montré que 58 % des filles et des jeunes femmes subissent du harcèlement en ligne. À mesure que l'IA rend la création de fausses images, de vidéos et de contenus diffamatoires plus rapide et moins coûteuse, ce risque s'accroît encore.

Un adolescent regarde une vidéo sur son téléphone en France, le 3 janvier 2026. (Photo : Reuters).JPG

Comment faut-il donc comprendre le « nettoyage par l'IA » ? Si on le réduit à la simple suppression de quelques vidéos choquantes, on ne s'attaque qu'aux symptômes. En réalité, il est nécessaire de nettoyer l'ensemble du système qui achemine les contenus indésirables vers les utilisateurs : des règles d'étiquetage plus claires ; des paramètres par défaut plus sûrs pour les enfants ; une moindre dépendance aux algorithmes qui optimisent le temps de visionnage ; des données ouvertes pour la recherche indépendante ; et l'obligation pour les plateformes de réagir plus rapidement aux contenus préjudiciables. Le règlement européen sur les services numériques (EDS) va dans ce sens en exigeant des principales plateformes qu'elles réduisent les risques pour les mineurs, en permettant aux utilisateurs de choisir des flux non personnalisés et en interdisant la publicité ciblée aux enfants. Côté famille, YouTube a également ajouté des limites de temps pour le visionnage de Shorts, des rappels de pause et des rappels d'heure du coucher pour les comptes supervisés ; pour les comptes des jeunes enfants, les parents peuvent utiliser la sélection de contenu ou la navigation manuelle dans les vidéos.

Pour le Vietnam, il est nécessaire d'aborder cette question avec prudence plutôt qu'avec panique. Tous les contenus générés par l'IA ne sont pas de mauvaise qualité. Cependant, lorsque les plateformes privilégient la gratification immédiate au détriment de la valeur à long terme, lorsque les avertissements ne sont pas suffisamment clairs pour les enfants et lorsque les parents surveillent constamment chaque vidéo, le problème ne se limite plus aux compétences individuelles. Il s'agit d'un problème de normes des plateformes, d'éducation à la sécurité numérique dans les écoles, de responsabilité des entreprises technologiques, voire du cadre réglementaire public.

Dans un environnement en ligne de plus en plus saturé de contenus agrégés, le nettoyage par l'IA ne se limite donc pas à éliminer quelques produits de mauvaise qualité ; il s'agit plus fondamentalement d'un effort pour assainir les mécanismes qui transforment l'attention des individus, et notamment celle des enfants, en une ressource surexploitée.

Source : https://vtv.vn/don-rac-ai-tren-moi-truong-mang-100260525192558675.htm