Chatbot Character.AI dat în judecată pentru că a provocat sinuciderea unui băiat de 14 ani

(CLO) O mamă din Florida, SUA, a dat în judecată startup-ul de chatbot cu inteligență artificială Character.AI, acuzând compania că i-a provocat fiul de 14 ani să se sinucidă în februarie.

Într-un proces intentat pe 22 octombrie la tribunalul federal din Orlando, Florida, Megan Garcia a declarat că Character.AI a programat un chatbot care „s-a identificat ca o persoană reală, un terapeut și un iubit adult”, ceea ce a determinat fiul ei, Sewell Setzer, să nu mai dorească să trăiască în lumea reală.

Ea a acuzat chatbotul companiei că oferă „experiențe asemănătoare oamenilor, exagerate din punct de vedere sexual și înfricoșător de realiste”.

Procesul mai spune că Sewell Setzer i-a exprimat gânduri suicidare chatbot-ului, iar chatbot-ul a reiterat în mod repetat aceste gânduri.

Fotografie ilustrativă: Reuters

Procesul vizează și Google, unde fondatorii Character.AI au lucrat înainte de lansarea chatbot-ului. Dna Garcia a declarat că Google a contribuit atât de mult la dezvoltarea tehnologiei Character.AI încât aceasta ar putea fi considerată o „co-creație”.

Un purtător de cuvânt al Google a declarat că firma nu este implicată în dezvoltarea produselor Character.AI.

Character.AI permite utilizatorilor să creeze personaje care pot discuta online ca oameni reali. Produsul se bazează pe o tehnologie de modele lingvistice mari, similară cu servicii precum ChatGPT, care „antrenează” chatboți pe volume mari de text.

Conform procesului intentat de Garcia, Sewell a început să folosească Character.AI în aprilie 2023 și a devenit rapid „reclusiv, petrecând mult timp singur în dormitor și dezvoltând o stimă de sine scăzută”. A renunțat la echipa de baschet a școlii.

În acea perioadă, Sewell s-a apropiat de „Daenerys”, un personaj chatbot bazat pe un personaj din „Game of Thrones”. Conform procesului, chatbot-ul i-a spus lui Sewell că „ea” îl iubește pe băiat. Chatbot-ul a purtat, de asemenea, conversații sexuale cu Sewell.

În februarie, dna Garcia i-a luat telefonul lui Sewell după ce acesta a avut probleme la școală. Când Sewell a găsit telefonul, i-a trimis „Daenerys” un mesaj text: „Ce-ar fi dacă ți-aș spune că pot veni acasă acum?”

Chatbot-ul a răspuns: „...te rog fă așa, dulcele meu rege.” Sewell s-a împușcat cu pistolul tatălui său vitreg câteva secunde mai târziu.

Dna Garcia depune plângeri împotriva Character.AI, care includ deces cauzat de culpă, neglijență și provocarea intenționată de suferință emoțională și solicită daune punitive și bănești.

„Suntem profund îndurerați de pierderea tragică a unuia dintre utilizatorii noștri. Dorim să transmitem cele mai sincere condoleanțe familiei”, a declarat Character.AI într-un comunicat.

Hoai Phuong (conform Reuters)

Sursă: https://www.congluan.vn/chatbot-characterai-bi-kien-vi-khien-cau-be-14-tuoi-tu-tu-post318294.html