Aufräumen von KI-Schrott im Internet.

VTV.vn – „KI-Müll“ stellt eine neue Herausforderung für Kinder dar, da billige, repetitive und süchtig machende Inhalte durch Algorithmen auf digitalen Plattformen verstärkt werden.

Ein Warnschild mit einem Roboter und der Aufschrift „KI-Schlamm“. (Foto: Reuters)

Wenn viele Eltern beklagen, dass ihre Kinder stundenlang vor dem Computer sitzen, sich aber beim Lernen nur schwer konzentrieren können, sehen sie mehr als nur eine Veränderung der Unterhaltungsgewohnheiten. Hinter den kurzen, rasanten Videos , den leuchtenden Farben und den ständig stimulierenden Geräuschen verbirgt sich ein ganzes digitales Ökosystem, das darauf ausgelegt ist, die Zuschauer so lange wie möglich zu fesseln. Medizinische und öffentliche Gesundheitsorganisationen betrachten das Problem inzwischen aus demselben Blickwinkel: Es geht nicht mehr darum, „wie viele Stunden vor dem Bildschirm“ zu verbringen, sondern um die Qualität der Inhalte, den Nutzungskontext und die Mechanismen der Plattform zur Nutzerbindung.

In diesem Kontext taucht in der internationalen Debatte zunehmend ein neuer Begriff auf: „KI-Müll“, was sich frei mit „KI-Abfall“ übersetzen lässt. Gemeint sind massenhaft produzierte Inhalte, die mithilfe von KI-Tools erstellt werden und kostengünstig und schnell produziert werden. Dabei stehen Quantität, Zuschauerbindung und Werbeeinnahmen im Vordergrund, nicht der Bildungswert oder die inhaltliche Konsistenz. Die aktuelle Debatte zielt nicht darauf ab, KI als kreatives Werkzeug abzulehnen, sondern konzentriert sich auf ein ganz spezifisches Problem: Wenn billige, repetitive und oberflächliche Inhalte durch Algorithmen verstärkt werden, wer trägt dann die Verantwortung für die Auswirkungen auf die schutzbedürftigsten Nutzergruppen?

Das Problem verschärfte sich im April 2026, als über 200 Organisationen und Experten in einem offenen Brief Google und YouTube zu entschiedeneren Maßnahmen zum Schutz von Kindern aufforderten. Die Forderungen waren eindeutig: Kennzeichnung aller KI-Inhalte, Verbot von KI-Inhalten auf YouTube Kids, Blockierung von Empfehlungen für Nutzer unter 18 Jahren, Hinzufügen einer Kindersicherung zum Deaktivieren von KI-Inhalten und Einstellung der Investitionen in KI-Videoproduktionen für Kinder. In diesem Brief argumentierte Fairplay, dass die erfolgreichsten KI-gestützten Kanäle, die sich an junge Kinder richten, jährlich über 4,25 Millionen US-Dollar Umsatz generieren. Hinter diesen Zahlen verbirgt sich eine bekannte Geschäftslogik des Plattformzeitalters: Was günstig und schnell zu produzieren ist und die Zuschauer lange fesselt, lässt sich leicht verbreiten.

Das Google-Logo ist auf einem Smartphone zu sehen, dahinter das YouTube-Logo auf einem Computerbildschirm in Ankara, Türkei, am 2. Juli 2025. (AFP-Foto).jpg

Was Eltern beunruhigt, ist nicht nur die schiere Menge an Inhalten. Das Problem ist vielmehr, dass sie kaum zu vermeiden sind. Fairplay zitiert internationale Presseberichte, die zeigen, dass nach dem Ansehen beliebter Vorschulprogramme wie Cocomelon etwa 40 % der als nächstes vorgeschlagenen YouTube-Videos KI-Elemente enthalten. Eine weitere, ebenfalls in der Presse zitierte Studie belegt, dass rund 21 % der Kurzvideos, die neuen Nutzerkonten empfohlen werden, KI-generiert sind. 278 vollständig KI-generierte Kanäle verzeichnen rund 63 Milliarden Aufrufe, 221 Millionen Abonnenten und geschätzte jährliche Einnahmen von 117 Millionen US-Dollar. Aus Sicht der Content-Branche ist dies längst keine Nische mehr, sondern hat sich zu einer äußerst profitablen Produktionslinie entwickelt.

Warum aber schenken Experten Kindern besondere Aufmerksamkeit? Erstens deuten bestehende Erkenntnisse darauf hin, dass die Mehrheit der Videos, die Kleinkinder auf offenen Plattformen ansehen, nicht unbedingt qualitativ hochwertige Bildungsinhalte darstellen. Common Sense Media stellt fest, dass nur etwa 5 % der von Kindern unter 8 Jahren angesehenen Videos einen hohen Bildungswert haben, während 75 % nur geringen oder gar keinen Bildungswert besitzen. Der Bericht zeigt außerdem, dass 30 % der Videos zumindest leichte körperliche Gewalt und 20 % zwischenmenschliche Gewalt wie Hänseleien, Mobbing oder manipulatives Verhalten enthalten. Das bedeutet, dass die Videoumgebung für Kinder auf offenen Plattformen schon vor dem Aufkommen von KI einer genaueren Überwachung bedurfte. KI macht die Produktion dieser Art von Inhalten lediglich günstiger, schneller und umfangreicher.

Die YouTube Kids App wird am 7. Juni 2025 auf einem Handybildschirm in Krakau, Polen, angezeigt. (Foto: NurPhoto, AFP).jpg

Die Reaktion von YouTube hat Beobachter bisher nicht vollständig beruhigt. Die Plattform verlangt zwar eine Kennzeichnungspflicht für zusammengestellte oder bearbeitete Inhalte, die authentisch wirken, doch viele animierte Videos für Kinder fallen nicht unter diese Vorschrift. WIRED wies darauf hin, dass animierte Videos für Kleinkinder die Kennzeichnungspflicht für Deepfakes umgehen können, da sie als „unrealistisch“ gelten – obwohl genau diese Art von Inhalten die Lebenswelt von Kindern stark prägt. Aus diesem Grund argumentieren Kritiker, dass eine Kennzeichnung allein nicht ausreicht, insbesondere da Kleinkinder möglicherweise noch nicht lesen können und die Beschreibungen daher nicht verstehen. Allerdings hat YouTube öffentlich erklärt, dass die Bekämpfung von KI-Fehlern bis 2026 Priorität hat und zudem Überwachungstools für Familien eingeführt werden.

Im größeren Kontext betrachtet, betrifft die „KI-gestützte Datenbereinigung“ nicht nur Kinder. Die Online-Welt offenbart eine andere Realität: Digitaler Schaden kann sich durchaus in realen Schaden verwandeln. Die WHO/Europa berichtet, dass etwa ein Sechstel der Teenager Online-Mobbing erlebt hat; UNICEF stellt fest, dass über ein Drittel der jungen Menschen in 30 Ländern angibt, Opfer von Cybermobbing geworden zu sein. Bei Frauen und Mädchen liegt die Prävalenz von Cybermobbing laut UN Women zwischen 16 % und 58 %, während internationale Studien ergeben haben, dass 58 % der Mädchen und jungen Frauen Online-Belästigung erfahren. Da KI die Erstellung gefälschter Bilder, Videos und diffamierender Inhalte billiger und schneller macht, steigt dieses Risiko noch weiter an.

Ein Teenager schaut sich am 3. Januar 2026 in Frankreich ein Video auf seinem Handy an. (Foto: Reuters).JPG

Wie ist also „KI-Bereinigung“ zu verstehen? Wenn wir darunter lediglich das Löschen einiger anstößiger Videos verstehen, bekämpfen wir nur die Symptome. Tatsächlich müssen wir die gesamte „Pipeline“ bereinigen, die Nutzern ungeeignete Inhalte liefert: klarere Kennzeichnungsregeln; sicherere Standardeinstellungen für Kinder; weniger Abhängigkeit von Algorithmen zur Optimierung der Wiedergabezeit; offene Daten für unabhängige Forschung; und Plattformen müssen schneller auf schädliche Inhalte reagieren. Der Europäische Digital Services Act (EDSA) verfolgt diesen Ansatz, indem er große Plattformen verpflichtet, Risiken für Minderjährige zu reduzieren, Nutzern die Möglichkeit zu geben, nicht personalisierte Feeds auszuwählen und gezielte Werbung für Kinder zu verbieten. Für Familien hat YouTube zudem Zeitlimits für das Scrollen von Shorts, Pausen- und Schlafenszeiterinnerungen für beaufsichtigte Konten eingeführt; für Konten jüngerer Kinder können Eltern die Inhaltsauswahl oder die manuelle Videoauswahl nutzen.

Für Vietnam erfordert dieses Thema eine besonnenere, nicht panische Herangehensweise. Nicht alle KI-gestützten Inhalte sind „Schrott“. Doch wenn Plattformen kurzfristige Befriedigung über langfristigen Nutzen stellen, Warnhinweise für Kinder nicht verständlich genug sind und Eltern ständig jedes einzelne Video kontrollieren müssen, liegt das Problem nicht mehr allein an den individuellen Fähigkeiten. Es betrifft die Plattformstandards, die digitale Sicherheitserziehung an Schulen, die Verantwortung von Technologieunternehmen und sogar den öffentlichen Regulierungsrahmen.

In einer zunehmend gesättigten Online-Umgebung voller aggregierter Inhalte geht es bei der KI-gestützten Bereinigung daher um mehr als nur um die Beseitigung einiger weniger schlechter Produkte; vielmehr ist es ein Versuch, die Mechanismen zu beseitigen, die die Aufmerksamkeit der Menschen, insbesondere die von Kindern, in eine übernutzte Ressource verwandeln.

Quelle: https://vtv.vn/don-rac-ai-tren-moi-truong-mang-100260525192558675.htm