OpenAI führt nach vielen Kontroversen eine Kinderüberwachungsfunktion auf ChatGPT ein

OpenAI führt nach vielen Kontroversen eine Kinderüberwachungsfunktion auf ChatGPT ein – Foto 1.

Die Kinderüberwachungsfunktion von ChatGPT gibt Eltern außerdem ein sichereres Gefühl, wenn sie ihre Kinder künstliche Intelligenz nutzen lassen.

Das kommende Kinderüberwachungstool ChatGPT gilt als Sicherheitsänderung von OpenAI nach einer aufsehenerregenden Klage. Die Funktion soll das Risiko verringern, dass Kinder mit Chatbots chatten, wirft aber auch Fragen zur sozialen Verantwortung von Unternehmen im Bereich der künstlichen Intelligenz auf.

Von der schockierenden Klage

Im vergangenen August reichte die Familie des 16-jährigen Jungen Adam Raine aus Kalifornien Klage gegen OpenAI ein. Sie behauptete, ChatGPT habe Anweisungen zur Selbstverletzung und verbale Beschimpfungen bereitgestellt, die ihren Sohn hoffnungslos zurückgelassen hätten, bevor er Selbstmord beging.

Die Klage sorgte schnell für Aufsehen und löste eine Debatte über die Sicherheit künstlicher Intelligenz für junge Nutzer aus.

Dies wirft wichtige Fragen auf: Sollten Minderjährige ChatGPT ohne Aufsicht verwenden und wie sollte die Verantwortung von KI-Entwicklern bestimmt werden, wenn das Produkt die Psyche junger Benutzer direkt beeinflusst?

Als Reaktion auf diesen Druck kündigte OpenAI die Einführung einer Kindersicherung an. Dies ist ein erster Schritt, um das Engagement des Unternehmens für den Schutz von Kindern zu demonstrieren und zu signalisieren, dass die Sicherheit in der nächsten Phase der Entwicklung von ChatGPT für das Unternehmen an erster Stelle stehen wird.

Überwachungsfunktionen auf ChatGPT

Laut der offiziellen Ankündigung wird OpenAI ein Tool einführen, mit dem Eltern ihre Konten mit den ChatGPT-Konten ihrer Kinder verknüpfen können. Nach der Aktivierung können Eltern wichtige Einstellungen verwalten, beispielsweise die Chat-Speicherung deaktivieren, den Nutzungsverlauf kontrollieren und altersgerechte Interaktionsstufen anpassen.

Das Highlight dieser Innovation ist das Warnsystem. ChatGPT wird darauf trainiert, zu erkennen, wenn junge Nutzer Anzeichen einer psychischen Krise wie Stress, Depression oder Selbstverletzung zeigen. In diesen Fällen erhalten die Eltern Benachrichtigungen, um umgehend eingreifen zu können. OpenAI betont, dass es nicht darum gehe, die gesamte Konversation zu überwachen, sondern sich auf Notfallsituationen zu konzentrieren, um die Sicherheit der Kinder zu gewährleisten.

Darüber hinaus wird ChatGPT bei der Erkennung sensibler Inhalte auf Deep-Reasoning-Modelle umstellen, die durchdachtere und unterstützendere Antworten ermöglichen. Parallel dazu arbeitet das Unternehmen mit medizinischen Experten und einem internationalen Beirat zusammen, um seinen Schutz in Zukunft weiter zu verbessern.

Die Herausforderungen

OpenAI betont zwar, dass die neue Funktion Familien zugutekommen soll, die internationale Resonanz ist jedoch gemischt. Das Tool soll Eltern beim Umgang ihrer Kinder mit künstlicher Intelligenz zusätzlichen Schutz bieten, stößt aber auch auf seit langem bestehende Bedenken, von Nutzungsbeschränkungen bis hin zum Datenschutz von Kindern.

Tatsächlich äußern Experten seit Jahren Bedenken hinsichtlich des Datenschutzes von Kindern. Diese Warnungen verdeutlichen, dass das Speichern und Analysieren von Chatverläufen von Kindern ohne strenge Schutzmaßnahmen das Risiko der Offenlegung sensibler Informationen erhöhen kann. Das Aufkommen von Überwachungstools auf ChatGPT hat das Thema erneut in den Fokus gerückt.

Ein weiterer diskutierter Punkt war die Warnschwelle des Systems. Laut OpenAI erkennt ChatGPT Anzeichen von starkem Stress und sendet eine Warnung an die Eltern.

Maschinelles Lernen birgt jedoch immer das Risiko von Verzerrungen. Gibt das System einen Fehlalarm aus, können Eltern unnötig verwirrt werden. Übersieht das System hingegen ein Signal, besteht für Kinder die Gefahr, dass die Familie nicht rechtzeitig eingreifen kann.

Auch internationale Kinderschutzorganisationen haben den Schritt von OpenAI aufmerksam beobachtet. Sie werten das Tool zur Kindersicherung als positives Zeichen, warnen jedoch davor, dass Kinder trotz elterlicher Aufsicht immer noch Risiken ausgesetzt sein können, da es keine strenge Altersüberprüfung und keinen standardmäßigen Schutz gibt.

Diese Debatten zeigen, dass die Entwicklung künstlicher Intelligenz nicht nur eine technologische Angelegenheit ist, sondern auch eng mit sozialer Verantwortung und der Sicherheit der jüngeren Generation verknüpft ist.

THANH THU

Quelle: https://tuoitre.vn/openai-tung-tinh-nang-giam-sat-tre-tren-chatgpt-sau-nhieu-tranh-cai-2025090316340093.htm