OpenAI wprowadza funkcję monitorowania dzieci w ChatGPT po wielu kontrowersjach

Po wielu kontrowersjach dotyczących bezpieczeństwa sztucznej inteligencji w kontekście nieletnich, OpenAI oficjalnie dodało narzędzie kontroli dzieci do ChatGPT.

Funkcja monitorowania dzieci w ChatGPT pomaga rodzicom czuć się bezpieczniej, pozwalając swoim dzieciom korzystać ze sztucznej inteligencji.

Nadchodzące narzędzie do monitorowania dzieci ChatGPT jest postrzegane jako zmiana w podejściu OpenAI pod kątem bezpieczeństwa, po głośnym procesie sądowym. Funkcja ta ma na celu zmniejszenie ryzyka związanego z czatowaniem dzieci z chatbotami, a jednocześnie stawia pytania o społeczną odpowiedzialność firm zajmujących się sztuczną inteligencją.

Z szokującego pozwu

W sierpniu ubiegłego roku rodzina 16-letniego Adama Raine'a z Kalifornii wniosła pozew przeciwko OpenAI, twierdząc, że ChatGPT dostarczał instrukcje dotyczące samookaleczenia i znęcania się słownego, które sprawiły, że ich syn poczuł się bezradny, zanim popełnił samobójstwo.

Pozew szybko wywołał poruszenie i rozpoczął debatę na temat bezpieczeństwa sztucznej inteligencji dla młodych użytkowników.

Incydent ten rodzi ważne pytania: czy osoby niepełnoletnie powinny korzystać z ChatGPT bez nadzoru i w jaki sposób należy określić odpowiedzialność twórców sztucznej inteligencji, skoro produkt bezpośrednio wpływa na psychikę młodych użytkowników?

W odpowiedzi na tę presję firma OpenAI ogłosiła dodanie funkcji kontroli rodzicielskiej, co stanowi pierwszy krok w celu zademonstrowania zaangażowania w ochronę dzieci i zasygnalizowania, że ​​firma jest gotowa stawiać bezpieczeństwo na pierwszym miejscu w kolejnej fazie rozwoju ChatGPT.

Funkcje monitorowania w ChatGPT

Zgodnie z oficjalnym ogłoszeniem, OpenAI wprowadzi narzędzie, które umożliwi rodzicom połączenie swoich kont z kontami ChatGPT dzieci. Po aktywacji rodzice będą mogli zarządzać ważnymi ustawieniami, takimi jak wyłączanie zapisywania czatów, kontrolowanie historii użytkowania i dostosowywanie poziomów interakcji do wieku.

Najważniejszym elementem tej innowacji jest system alertów. ChatGPT zostanie przeszkolony w zakresie rozpoznawania oznak stresu psychologicznego u młodych użytkowników, takich jak stres, depresja czy samookaleczenie. W takich przypadkach rodzice otrzymają powiadomienie z prośbą o natychmiastową interwencję. OpenAI zapewnia, że ​​celem nie jest monitorowanie całej rozmowy, lecz skupienie się na pilnych sytuacjach, aby chronić bezpieczeństwo dzieci.

Dodatkowo, w przypadku wykrycia treści wrażliwych, ChatGPT przełączy się na modele głębokiego rozumowania, zaprojektowane w celu zapewnienia bardziej przemyślanych i wspierających odpowiedzi. Jednocześnie firma współpracuje z ekspertami medycznymi i międzynarodową radą doradczą, aby nadal udoskonalać swoje zabezpieczenia.

Postawione wyzwania

Chociaż OpenAI podkreśla, że ​​nowa funkcja została zaprojektowana z myślą o rodzinach, reakcje na świecie były mieszane. Oczekuje się, że narzędzie zapewni rodzicom dodatkową warstwę ochrony podczas interakcji dzieci ze sztuczną inteligencją, ale budzi ono również od dawna istniejące obawy, od ograniczeń użytkowania po prywatność danych dzieci.

W rzeczywistości eksperci od lat podnoszą kwestię prywatności danych dzieci. Ostrzeżenia te podkreślają, że przechowywanie i analizowanie historii rozmów dzieci bez ścisłych zabezpieczeń może zwiększać ryzyko ujawnienia poufnych informacji. Pojawienie się narzędzia monitorującego ChatGPT ponownie zwróciło uwagę na ten problem.

Kolejnym omawianym punktem był próg ostrzegawczy systemu. OpenAI zapowiedziało, że ChatGPT będzie wykrywał oznaki silnego stresu i wysyłał rodzicom ostrzeżenie.

Jednak uczenie maszynowe zawsze niesie ze sobą ryzyko błędu. Jeśli system wygeneruje fałszywy alarm, rodzice mogą być niepotrzebnie zdezorientowani. I odwrotnie, jeśli system przegapi sygnał, dzieci mogą być narażone na ryzyko, że rodziny nie będą w stanie zareagować na czas.

Międzynarodowe organizacje zajmujące się ochroną dzieci również uważnie obserwują działania OpenAI, uznając narzędzie kontroli rodzicielskiej za pozytywny znak, ale ostrzegając, że brak ścisłej weryfikacji wieku i domyślnej ochrony oznacza, że ​​dzieci nadal mogą być narażone na ryzyko, nawet pod nadzorem rodziców.

Debaty te pokazują, że rozwój sztucznej inteligencji to nie tylko kwestia technologii, ale także ścisły związek z odpowiedzialnością społeczną i bezpieczeństwem młodego pokolenia.

THANH THU

Source: https://tuoitre.vn/openai-tung-tinh-nang-giam-sat-tre-tren-chatgpt-sau-nhieu-tranh-cai-2025090316340093.htm