Funcția de monitorizare a copiilor de pe ChatGPT îi ajută, de asemenea, pe părinți să se simtă mai în siguranță atunci când își lasă copiii să folosească inteligența artificială.
Viitorul instrument de monitorizare a copiilor ChatGPT este văzut ca o schimbare de siguranță față de OpenAI, în urma unui proces de mare amploare. Funcția își propune să reducă riscul ca copiii să discute cu chatboții, ridicând totodată semne de întrebare cu privire la responsabilitatea socială a companiilor de inteligență artificială.
Din procesul șocant
În august anul trecut, familia lui Adam Raine, un băiat californian în vârstă de 16 ani, a intentat un proces împotriva OpenAI, susținând că ChatGPT le-a oferit instrucțiuni de autovătămare și abuzuri verbale care l-au lăsat pe fiul lor cu un sentiment de deznădejde înainte de a se sinucide.
Procesul a stârnit rapid agitație și a deschis o dezbatere despre siguranța inteligenței artificiale pentru tinerii utilizatori.
Acest lucru ridică întrebări importante: ar trebui minorii să utilizeze ChatGPT fără supraveghere și cum ar trebui determinată responsabilitatea dezvoltatorilor de inteligență artificială atunci când produsul afectează direct psihologia utilizatorilor tineri?
Ca răspuns la această presiune, OpenAI a anunțat adăugarea controalelor parentale, un prim pas către demonstrarea angajamentului său față de protejarea copiilor și semnalarea faptului că firma este dispusă să pună siguranța pe primul loc în următoarea fază de dezvoltare a ChatGPT.
Funcții de monitorizare pe ChatGPT
Conform anunțului oficial, OpenAI va lansa un instrument care permite părinților să își conecteze conturile la conturile ChatGPT ale copiilor lor. Odată activat, părinții pot gestiona setări importante, cum ar fi dezactivarea stocării chatului, controlul istoricului de utilizare și ajustarea nivelurilor de interacțiune adecvate vârstei.
Punctul culminant al acestei inovații este sistemul de alerte. ChatGPT va fi antrenat să recunoască atunci când utilizatorii tineri prezintă semne de criză psihologică, cum ar fi stresul, depresia sau autovătămarea. În aceste cazuri, părinții vor primi notificări pentru a interveni prompt. OpenAI afirmă că scopul nu este de a monitoriza întreaga conversație, ci de a se concentra asupra situațiilor de urgență pentru a proteja siguranța copiilor.
În plus, atunci când este detectat conținut sensibil, ChatGPT va trece la funcționarea cu modele de raționament profund, concepute pentru a oferi răspunsuri mai atent gândite și mai suportive. În paralel, compania colaborează și cu experți medicali și cu un consiliu consultativ internațional pentru a continua să își perfecționeze protecțiile în perioada următoare.
Provocările ridicate
Deși OpenAI a subliniat că noua funcție este concepută pentru a fi în beneficiul familiilor, reacția internațională a fost mixtă. Se așteaptă ca instrumentul să adauge un nivel de protecție pentru părinți, pe măsură ce copiii lor interacționează cu inteligența artificială, dar a ridicat și preocupări de lungă durată, de la limitele de utilizare până la confidențialitatea datelor copiilor.
De fapt, experții își exprimă îngrijorările cu privire la confidențialitatea datelor copiilor de ani de zile. Aceste avertismente evidențiază faptul că stocarea și analizarea istoricului de chat al copiilor, fără protecții stricte, poate crește riscul expunerii informațiilor sensibile. Apariția instrumentelor de monitorizare pe ChatGPT a readus problema în atenția publicului.
Un alt punct discutat a fost pragul de avertizare al sistemului. OpenAI a declarat că ChatGPT va detecta semne de stres sever și va trimite o alertă părinților.
Totuși, învățarea automată prezintă întotdeauna riscul de prejudecăți. Dacă sistemul dă o alarmă falsă, părinții pot fi confuzi în mod inutil. În schimb, dacă ratează un semnal, copiii se pot confrunta cu riscuri la care familia nu poate interveni la timp.
Organizațiile internaționale pentru protecția copilului au urmărit îndeaproape mișcarea OpenAI, recunoscând instrumentul de control parental ca un semn pozitiv, dar avertizând că lipsa unei verificări stricte a vârstei și a unor protecții implicite înseamnă că micuții se pot confrunta în continuare cu riscuri, chiar și cu supraveghere parentală.
Aceste dezbateri arată că dezvoltarea inteligenței artificiale nu este doar o poveste tehnologică, ci este strâns legată și de responsabilitatea socială și de siguranța tinerei generații.
THANH THU
Sursă: https://tuoitre.vn/openai-tung-tinh-nang-giam-sat-tre-tren-chatgpt-sau-nhieu-tranh-cai-2025090316340093.htm
Comentariu (0)