OpenAI führt nach heftigen Kontroversen eine Kinderüberwachungsfunktion auf ChatGPT ein.

OpenAI führt nach zahlreichen Kontroversen eine Kinderüberwachungsfunktion auf ChatGPT ein - Foto 1.

Die Kindersicherungsfunktion von ChatGPT trägt außerdem dazu bei, dass sich Eltern sicherer fühlen, wenn sie ihren Kindern die Nutzung künstlicher Intelligenz erlauben.

Das kommende Kinderüberwachungstool ChatGPT wird als Sicherheitsmaßnahme von OpenAI nach einem aufsehenerregenden Rechtsstreit gesehen. Die Funktion soll das Risiko verringern, dass Kinder mit Chatbots interagieren, und wirft gleichzeitig Fragen zur sozialen Verantwortung von KI-Unternehmen auf.

Aus der schockierenden Klage

Im vergangenen August reichte die Familie von Adam Raine, einem 16-jährigen Jungen aus Kalifornien, eine Klage gegen OpenAI ein. Sie behauptete, ChatGPT habe Anleitungen zur Selbstverletzung gegeben und verbale Misshandlungen ausgesprochen, die ihren Sohn vor seinem Selbstmord in eine tiefe Verzweiflung getrieben hätten.

Die Klage sorgte schnell für Aufsehen und eröffnete eine Debatte über die Sicherheit künstlicher Intelligenz für junge Nutzer.

Dies wirft wichtige Fragen auf: Sollten Minderjährige ChatGPT ohne Aufsicht nutzen, und wie sollte die Verantwortung von KI-Entwicklern bestimmt werden, wenn das Produkt die Psychologie junger Nutzer direkt beeinflusst?

Als Reaktion auf diesen Druck kündigte OpenAI die Hinzufügung von Kindersicherungsfunktionen an – ein erster Schritt, um sein Engagement für den Schutz von Kindern zu demonstrieren und zu signalisieren, dass das Unternehmen bereit ist, der Sicherheit in der nächsten Phase der Entwicklung von ChatGPT höchste Priorität einzuräumen.

Überwachungsfunktionen auf ChatGPT

Laut offizieller Ankündigung wird OpenAI ein Tool einführen, mit dem Eltern ihre Konten mit den ChatGPT-Konten ihrer Kinder verknüpfen können. Nach der Aktivierung können Eltern wichtige Einstellungen verwalten, wie beispielsweise die Speicherung von Chat-Nachrichten deaktivieren, den Nutzungsverlauf kontrollieren und altersgerechte Interaktionsstufen anpassen.

Das Highlight dieser Innovation ist das Warnsystem. ChatGPT wird darauf trainiert, Anzeichen psychischer Krisen bei jungen Nutzern zu erkennen, wie etwa Stress, Depressionen oder Selbstverletzungen. In solchen Fällen erhalten die Eltern Benachrichtigungen, um umgehend eingreifen zu können. OpenAI betont, dass es nicht darum geht, die gesamte Konversation zu überwachen, sondern sich auf Notfallsituationen zu konzentrieren, um die Sicherheit der Kinder zu gewährleisten.

Wird sensibler Inhalt erkannt, schaltet ChatGPT auf komplexere Analysemodelle um, die durchdachtere und hilfreichere Antworten ermöglichen. Parallel dazu arbeitet das Unternehmen mit medizinischen Experten und einem internationalen Beirat zusammen, um seine Schutzmechanismen weiter zu optimieren.

Die Herausforderungen

OpenAI betont zwar, dass die neue Funktion Familien zugutekommen soll, doch die internationale Resonanz ist gemischt. Das Tool soll Eltern zusätzlichen Schutz bieten, wenn ihre Kinder mit künstlicher Intelligenz interagieren, hat aber auch altbekannte Bedenken geweckt, etwa hinsichtlich Nutzungsbeschränkungen und des Datenschutzes von Kinderdaten.

Tatsächlich äußern Experten schon seit Jahren Bedenken hinsichtlich des Datenschutzes von Kindern. Diese Warnungen unterstreichen, dass das Speichern und Analysieren von Chatverläufen von Kindern ohne strenge Schutzmaßnahmen das Risiko der Offenlegung sensibler Informationen erhöhen kann. Das Aufkommen von Überwachungstools auf ChatGPT hat das Thema erneut in den Fokus gerückt.

Ein weiterer Diskussionspunkt war die Warnschwelle des Systems. OpenAI erklärte, ChatGPT würde Anzeichen von starkem Stress erkennen und eine Warnung an die Eltern senden.

Maschinelles Lernen birgt jedoch stets das Risiko von Verzerrungen. Gibt das System einen Fehlalarm aus, können Eltern unnötig verunsichert werden. Übersieht es hingegen ein Signal, können Kinder Gefahren ausgesetzt sein, denen die Familie nicht rechtzeitig begegnen kann.

Internationale Kinderschutzorganisationen haben den Schritt von OpenAI ebenfalls genau beobachtet und das elterliche Kontrolltool als positives Zeichen gewertet, jedoch davor gewarnt, dass Kinder aufgrund fehlender strenger Altersverifizierung und standardmäßiger Schutzmaßnahmen auch unter elterlicher Aufsicht Risiken ausgesetzt sein können.

Diese Debatten zeigen, dass die Entwicklung künstlicher Intelligenz nicht nur eine technologische Geschichte ist, sondern auch eng mit sozialer Verantwortung und der Sicherheit der jüngeren Generation verbunden ist.

THANH THU

Quelle: https://tuoitre.vn/openai-tung-tinh-nang-giam-sat-tre-tren-chatgpt-sau-nhieu-tranh-cai-2025090316340093.htm