Funkcja monitorowania dzieci w ChatGPT pomaga rodzicom czuć się bezpieczniej, pozwalając swoim dzieciom korzystać ze sztucznej inteligencji.
Nadchodzące narzędzie do monitorowania dzieci ChatGPT jest postrzegane jako zmiana w podejściu OpenAI pod kątem bezpieczeństwa, po głośnym procesie sądowym. Funkcja ta ma na celu zmniejszenie ryzyka czatowania dzieci z chatbotami, a jednocześnie stawia pytania o społeczną odpowiedzialność firm zajmujących się sztuczną inteligencją.
Z szokującego pozwu
W sierpniu ubiegłego roku rodzina 16-letniego Adama Raine'a z Kalifornii wniosła pozew przeciwko OpenAI, twierdząc, że ChatGPT dostarczał instrukcje dotyczące samookaleczenia i znęcania się słownego, które sprawiły, że ich syn poczuł się bezradny, zanim popełnił samobójstwo.
Pozew szybko wywołał poruszenie i rozpoczął debatę na temat bezpieczeństwa sztucznej inteligencji dla młodych użytkowników.
Nasuwa się zatem ważne pytanie: czy osoby niepełnoletnie powinny korzystać z ChatGPT bez nadzoru i w jaki sposób należy określić odpowiedzialność twórców sztucznej inteligencji, skoro produkt bezpośrednio wpływa na psychikę młodych użytkowników?
W odpowiedzi na tę presję firma OpenAI ogłosiła dodanie funkcji kontroli rodzicielskiej, co stanowi pierwszy krok w celu zademonstrowania zaangażowania w ochronę dzieci i zasygnalizowania, że firma jest gotowa stawiać bezpieczeństwo na pierwszym miejscu w kolejnej fazie rozwoju ChatGPT.
Funkcje monitorowania w ChatGPT
Zgodnie z oficjalnym ogłoszeniem, OpenAI wprowadzi narzędzie, które umożliwi rodzicom połączenie swoich kont z kontami ChatGPT dzieci. Po aktywacji rodzice będą mogli zarządzać ważnymi ustawieniami, takimi jak wyłączanie zapisywania czatów, kontrolowanie historii użytkowania i dostosowywanie poziomów interakcji do wieku.
Najważniejszym elementem tej innowacji jest system alertów. ChatGPT zostanie przeszkolony w zakresie rozpoznawania oznak kryzysu psychologicznego u młodych użytkowników, takich jak stres, depresja czy samookaleczenie. W takich przypadkach rodzice otrzymają powiadomienia, aby niezwłocznie interweniować. OpenAI zapewnia, że celem nie jest monitorowanie całej rozmowy, lecz skupienie się na sytuacjach kryzysowych, aby chronić bezpieczeństwo dzieci.
Dodatkowo, w przypadku wykrycia wrażliwej treści, ChatGPT przełączy się na działanie w oparciu o głębokie modele wnioskowania, które mają na celu zapewnienie bardziej przemyślanych i wspierających odpowiedzi. Jednocześnie firma współpracuje z ekspertami medycznymi i międzynarodową radą doradczą, aby w przyszłości udoskonalać swoje zabezpieczenia.
Postawione wyzwania
Chociaż OpenAI podkreśla, że nowa funkcja została zaprojektowana z myślą o rodzinach, reakcje na świecie były mieszane. Oczekuje się, że narzędzie zapewni rodzicom dodatkową warstwę ochrony podczas interakcji dzieci ze sztuczną inteligencją, ale budzi ono również od dawna istniejące obawy, od limitów użytkowania po prywatność danych dzieci.
W rzeczywistości eksperci od lat podnoszą kwestie prywatności danych dzieci. Ostrzeżenia te podkreślają, że przechowywanie i analizowanie historii rozmów dzieci bez ścisłych zabezpieczeń może zwiększać ryzyko ujawnienia poufnych informacji. Pojawienie się narzędzi monitorujących w ChatGPT ponownie zwróciło uwagę na ten problem.
Kolejnym omawianym punktem był próg ostrzegawczy systemu. OpenAI zapowiedziało, że ChatGPT będzie wykrywał oznaki silnego stresu i wysyłał rodzicom ostrzeżenie.
Jednak uczenie maszynowe zawsze niesie ze sobą ryzyko stronniczości. Jeśli system wygeneruje fałszywy alarm, rodzice mogą być niepotrzebnie zdezorientowani. I odwrotnie, jeśli przegapi sygnał, dzieci mogą być narażone na ryzyko, że rodzina nie będzie w stanie zareagować na czas.
Międzynarodowe organizacje zajmujące się ochroną dzieci również uważnie przyglądają się działaniom OpenAI, uznając narzędzie kontroli rodzicielskiej za pozytywny znak, ale ostrzegając, że brak ścisłej weryfikacji wieku i domyślnych zabezpieczeń oznacza, że dzieci nadal mogą być narażone na ryzyko, nawet pod nadzorem rodziców.
Debaty te pokazują, że rozwój sztucznej inteligencji to nie tylko kwestia technologiczna, ale także ścisły związek z odpowiedzialnością społeczną i bezpieczeństwem młodego pokolenia.
THANH THU
Source: https://tuoitre.vn/openai-tung-tinh-nang-giam-sat-tre-tren-chatgpt-sau-nhieu-tranh-cai-2025090316340093.htm
Komentarz (0)