OpenAI se confruntă cu primul său proces din partea unui stat american.

Conform procesului, chatbot-ul a prejudiciat utilizatorii tineri prin conținut legat de violență și autovătămare.

Sam Altman, CEO al OpenAI. Foto: Reuters

Acesta este primul stat din SUA care ia măsuri împotriva OpenAI. Procurorul general al Floridei, James Uthmeier, a intentat un proces la tribunalul statului Florida.

Procesul citează un incident armat la o universitate din Tallahassee de anul trecut, alături de numeroase incidente din alte state, în care ChatGPT ar fi furnizat informații suspecților pentru a comite acte de violență.

Vorbind la o conferință de presă recentă, Uthmeier a declarat că statul Florida l-a numit pe CEO-ul Altman în proces, deoarece acesta a jucat un rol central în promovarea unora dintre caracteristicile ChatGPT pe care statul le consideră cele mai dăunătoare.

„Oamenii sunt răniți, părinții sunt înșelați și trebuie să fie trași la răspundere pentru asta”, a spus Uthmeier.

Florida solicită daune de miliarde de dolari și solicită, de asemenea, instanței să oblige OpenAI să schimbe modul în care platforma sa interacționează cu utilizatorii tineri.

OpenAI nu a emis încă un răspuns oficial la proces.

Anterior, OpenAI a declarat că modelele sale sunt antrenate să respingă solicitările care ar putea „facilita semnificativ comportamentul violent” și va notifica forțele de ordine dacă conversațiile arată „un risc iminent și credibil de vătămare a altora”.

Compania a declarat, de asemenea, că implică profesioniști în sănătate mintală în evaluarea cazurilor limită.

Procesul vine pe fondul unui val tot mai mare de litigii împotriva companiilor de dezvoltare a inteligenței artificiale, în care se susține că acestea nu au reușit să prevină interacțiunile chatbot-urilor care ar putea duce la autovătămare, probleme de sănătate mintală sau violență.

OpenAI se confruntă și cu un alt proces legat de împușcăturile din SUA și Canada, în care reclamanții susțin că firma nu a acționat în mod adecvat, în ciuda dovezilor care sugerează că autorii au folosit ChatGPT pentru a planifica atacurile.

Sursă: https://hanoimoi.vn/openai-doi-mat-vu-kien-dau-tien-tu-mot-bang-my-1024606.html