OpenAI aktiviert den 18+-Modus auf ChatGPT: Wie können Minderjährige geschützt werden?

OpenAI wird ab Dezember 2025 verifizierten Nutzern den Zugriff auf Inhalte für Erwachsene ermöglichen und damit einen neuen Markt eröffnen, was jedoch eine große Herausforderung hinsichtlich des Schutzes von Minderjährigen darstellt.

Chatbot für Erwachsene mit Altersverifizierung und Sicherheitswarnungen für Kinder.

Die Bestätigung von OpenAI, dass verifizierte erwachsene Nutzer ab Dezember 2025 auf ChatGPT Zugriff auf Inhalte für Erwachsene erhalten werden, wird als bedeutender Meilenstein für die Branche angesehen, der sowohl das Marktwachstum ankurbelt als auch einen neuen Standard für den Schutz von Minderjährigen setzt.

Chatbots für Erwachsene – die neue Rennstrecke der KI.

KI-Plattformen haben in rasantem Tempo Modelle entwickelt, um den Bedürfnissen von Erwachsenen gerecht zu werden, von intimen Gesprächen bis hin zur emotionalen Unterstützung.

Laut CEO Sam Altman war ChatGPT zuvor stark eingeschränkt, um Risiken für die psychische Gesundheit zu vermeiden. Dieser Ansatz habe das Modell jedoch für viele Nutzer weniger nützlich und attraktiv gemacht. Er erklärte, OpenAI orientiere sich nun am Prinzip, Erwachsene als Erwachsene zu behandeln.

Die Einführung eines kontrollierten Zugriffsmodus für verifizierte Benutzer hat den ohnehin schon schnell wachsenden Markt für Chatbots für Erwachsene weiter belebt.

Die Wettbewerbssituation hat sich noch deutlicher verschärft, da Elon Musks xAI kürzlich von internationalen Medien hinsichtlich ihrer Fähigkeit, Prominenten-bezogene Erwachseneninhalte zu erstellen, in Frage gestellt wurde, was zu dringenden Forderungen nach neuen Schutzstandards führte.

Das "Problem" der Altersverifizierung.

Die Freigabe von Inhalten für Erwachsene stellt eine große Herausforderung dar: die Altersverifizierung der Nutzer. Die Verifizierung mittels Ausweisdokumenten bietet zwar eine hohe Zuverlässigkeit, birgt aber Risiken für die Privatsphäre und die Sicherheit personenbezogener Daten. KI-basierte, verhaltens- oder sprachbasierte Verifizierungsmethoden hingegen erfordern große Datensätze und komplexe Modelle und bergen weiterhin das Risiko, von Nutzern umgangen zu werden.

Die Herausforderung wird durch die Eigenschaften der KI-gestützten Inhaltsgenerierung noch verstärkt. Chatbots können in Echtzeit neue Informationen generieren, Gespräche auf sensible Weise ausweiten oder mehrdeutige Anfragen in unangemessene Inhalte umdeuten.

Die Risiken steigen dramatisch an, wenn das Modell die Erstellung mehrerer Medien wie Bilder, Audio- und Videodateien unterstützt. Jegliche Möglichkeit, sensible Inhalte mit Minderjährigen zu simulieren oder zu synthetisieren, selbst in simulierter Form, muss unbedingt verhindert werden. Dies erfordert von den Entwicklern die Einrichtung von Kontrollmechanismen von der Modellentwurfsebene bis zur Inhaltsfilterungsebene.

Der Verantwortungsdruck auf KI-Unternehmen.

Die Nachricht, dass OpenAI einen Modus für Inhalte für Erwachsene aktivieren will, hat bei vielen Kinderschutzorganisationen Besorgnis ausgelöst. Sie warnen davor, dass die Legitimierung von Inhalten für Erwachsene mithilfe von KI Minderjährige unbeabsichtigt dazu ermutigen könnte, nach Wegen zu suchen, die Grenze zu überschreiten.

In Vietnam haben viele Eltern ebenfalls Bedenken geäußert, dass eine Plattform, die traditionell mit Lernen in Verbindung gebracht wird, wie beispielsweise ChatGPT, einen Modus für Erwachsene eingeführt hat.

Dieser Druck zwingt KI-Unternehmen dazu, das Prinzip „Sicherheit durch Design“ konsequent umzusetzen: die Kontrolle der Trainingsdaten, die Überwachung von Ein- und Ausgaben, den Einsatz von Echtzeitfiltern und die Aufrechterhaltung regelmäßiger Prüfmechanismen.

Transparenz im Betriebsablauf, die öffentliche Bekanntgabe von Schutzmaßnahmen und die Berücksichtigung von Rückmeldungen aus der Bevölkerung werden zu zwingenden Voraussetzungen, um ein sicheres Umfeld für Erwachsene zu schaffen, ohne gefährdete Nutzergruppen zu gefährden.

Die Entscheidung von OpenAI, verifizierten Nutzern Zugang zu Inhalten für Erwachsene zu gewähren, ist nicht nur ein kommerzieller Meilenstein, sondern auch eine Erinnerung daran, dass technologische Innovationen mit verantwortungsvollen Standards einhergehen müssen.

Damit das KI-Ökosystem nachhaltig gedeihen kann, müssen Unternehmen der Sicherheit Priorität einräumen und ein Gleichgewicht zwischen Innovation und der Verantwortung für den Schutz der Gemeinschaft wahren.

SONG TRI

Quelle: https://tuoitre.vn/openai-bat-che-do-18-บน-chatgpt-lam-sao-bao-ve-tre-vi-thanh-nien-2025121111362172.htm