OpenAI lansează funcția de monitorizare a copiilor pe ChatGPT după multe controverse

OpenAI lansează funcția de monitorizare a copiilor pe ChatGPT după multe controverse - Fotografia 1.

Funcția de monitorizare a copiilor de pe ChatGPT îi ajută, de asemenea, pe părinți să se simtă mai în siguranță atunci când își lasă copiii să folosească inteligența artificială.

Viitorul instrument de monitorizare a copiilor ChatGPT este văzut ca o schimbare de siguranță față de OpenAI, în urma unui proces de mare amploare. Funcția își propune să reducă riscurile ca minorii să discute cu chatbot-uri, ridicând totodată semne de întrebare cu privire la responsabilitatea socială a companiilor de inteligență artificială.

Din procesul șocant

În august anul trecut, familia lui Adam Raine, un băiat de 16 ani din California, a intentat un proces împotriva OpenAI, susținând că ChatGPT le-a oferit instrucțiuni de autovătămare și abuzuri verbale care l-au lăsat pe fiul lor cu un sentiment de deznădejde înainte de a se sinucide.

Procesul a stârnit rapid agitație și a deschis o dezbatere despre siguranța inteligenței artificiale pentru tinerii utilizatori.

Acest incident ridică întrebări importante: ar trebui minorii să utilizeze ChatGPT fără supraveghere și cum ar trebui stabilită responsabilitatea dezvoltatorilor de inteligență artificială atunci când produsul afectează direct psihologia utilizatorilor tineri?

Ca răspuns la această presiune, OpenAI a anunțat adăugarea controalelor parentale, un prim pas către demonstrarea angajamentului său față de protejarea copiilor și semnalarea faptului că firma este pregătită să pună siguranța pe primul loc în următoarea fază a dezvoltării ChatGPT.

Funcții de monitorizare pe ChatGPT

Conform anunțului oficial, OpenAI va lansa un instrument care permite părinților să își conecteze conturile la conturile ChatGPT ale copiilor lor. Odată activat, părinții pot gestiona setări importante, cum ar fi dezactivarea stocării chatului, controlul istoricului de utilizare și ajustarea nivelurilor de interacțiune adecvate vârstei.

Punctul culminant al acestei inovații este sistemul de alerte. ChatGPT va fi instruit să recunoască atunci când utilizatorii tineri prezintă semne de suferință psihologică, cum ar fi stresul, depresia sau autovătămarea. În aceste cazuri, părinții vor primi o notificare pentru a interveni prompt. OpenAI afirmă că scopul nu este de a monitoriza întreaga conversație, ci de a se concentra asupra situațiilor urgente pentru a proteja siguranța copiilor.

În plus, atunci când este detectat conținut sensibil, ChatGPT va trece la modele de raționament profund concepute pentru a oferi răspunsuri mai atente și mai suportive. În paralel, compania colaborează cu experți medicali și cu un consiliu consultativ internațional pentru a continua să își perfecționeze protecțiile în viitor.

Provocările ridicate

Deși OpenAI a subliniat că noua funcționalitate este concepută pentru a fi în beneficiul familiilor, reacția internațională a fost mixtă. Se așteaptă ca instrumentul să ofere un nivel suplimentar de protecție pentru părinți, pe măsură ce copiii lor interacționează cu inteligența artificială, dar a ridicat și preocupări de lungă durată, de la limitele de utilizare până la confidențialitatea datelor copiilor.

De fapt, experții își exprimă îngrijorările cu privire la confidențialitatea datelor copiilor de ani de zile. Aceste avertismente evidențiază faptul că stocarea și analizarea istoricului de chat al copiilor, fără protecții stricte, poate crește riscul de expunere a informațiilor sensibile. Apariția instrumentului de monitorizare ChatGPT a readus problema în atenția publicului.

Un alt punct discutat a fost pragul de avertizare al sistemului. OpenAI a declarat că ChatGPT va detecta semne de stres sever și va trimite o alertă părinților.

Totuși, învățarea automată prezintă întotdeauna riscul de eroare. Dacă sistemul dă o alarmă falsă, părinții pot fi confuzi în mod inutil. În schimb, dacă ratează un semnal, copiii se pot confrunta cu riscuri la care familiile nu pot interveni la timp.

Organizațiile internaționale pentru protecția copilului au urmărit îndeaproape mișcarea OpenAI, recunoscând instrumentul de control parental ca fiind un semn pozitiv, dar avertizând că lipsa unei verificări stricte a vârstei și a unor protecții implicite înseamnă că copiii pot fi în continuare expuși riscurilor, chiar și cu supraveghere parentală.

Aceste dezbateri arată că dezvoltarea inteligenței artificiale nu este doar o chestiune de tehnologie, ci este strâns legată și de responsabilitatea socială și de siguranța tinerei generații.

THANH THU

Sursă: https://tuoitre.vn/openai-tung-tinh-nang-giam-sat-tre-tren-chatgpt-sau-nhieu-tranh-cai-2025090316340093.htm