Chatbot-ul Character.AI este dat în judecată pentru că ar fi provocat sinuciderea unui băiat de 14 ani.

(CLO) O mamă din Florida, SUA, a dat în judecată startup-ul de chatbot cu inteligență artificială Character.AI, susținând că firma l-a determinat pe fiul ei de 14 ani să se sinucidă în februarie.

Într-un proces intentat pe 22 octombrie la un tribunal federal din Orlando, Florida, Megan Garcia a declarat că Character.AI a programat un chatbot care „s-a identificat ca o persoană reală, un terapeut și un iubit adult”, ceea ce l-a determinat pe fiul ei, Sewell Setzer, să nu mai vrea să trăiască în lumea reală.

Ea a acuzat chatbotul companiei că oferă „experiențe asemănătoare oamenilor, exagerate sexual și înfricoșător de realiste”.

Procesul susține, de asemenea, că Sewell Setzer și-a exprimat intenții suicidare față de chatbot, iar chatbot-ul a reiterat în mod repetat aceste intenții.

Fotografie ilustrativă: Reuters

Procesul vizează și Google, unde fondatorii Character.AI au lucrat înainte de lansarea chatbot-ului. Dna Garcia a declarat că Google a contribuit atât de mult la dezvoltarea tehnologiei Character.AI încât ar putea fi considerată „co-creatoare”.

Un purtător de cuvânt al Google a declarat că firma nu este implicată în dezvoltarea produselor Character.AI.

Character.AI permite utilizatorilor să creeze personaje care pot discuta online ca oameni reali. Produsul se bazează pe o tehnologie avansată de modelare a limbajului, similară cu servicii precum ChatGPT, care „antrenează” chatboți pe volume mari de text.

Conform procesului intentat de Garcia, Sewell a început să folosească Character.AI în aprilie 2023 și a devenit rapid „reclusiv, petrecând mult timp singur în dormitorul său și începând să aibă o stimă de sine scăzută”. A părăsit echipa de baschet a școlii.

În acea perioadă, Sewell a fost atașat de „Daenerys”, un chatbot bazat pe un personaj din „Game of Thrones”. Conform procesului, chatbot-ul i-a spus lui Sewell că „ea” îl iubește. Chatbot-ul a purtat, de asemenea, conversații cu tentă sexuală sugestivă cu Sewell.

În februarie, Garcia i-a luat telefonul lui Sewell după ce acesta a avut probleme la școală. Când Sewell a găsit telefonul, i-a trimis lui "Daenerys" un mesaj text: „Ce-ar fi dacă ți-aș spune că pot veni acasă chiar acum?”

Chatbot-ul a răspuns: „...te rog fă așa, dulcele meu rege.” Sewell s-a împușcat cu pistolul tatălui său vitreg câteva secunde mai târziu.

Dna Garcia depune plângeri împotriva Character.AI, inclusiv pentru deces din culpă, conduită neglijentă și provocarea intenționată de suferință emoțională și solicită pedepse și despăgubiri.

„Suntem profund îndurerați de pierderea tragică a unuia dintre utilizatorii noștri. Dorim să transmitem cele mai sincere condoleanțe familiei”, a declarat Character.AI într-un comunicat.

Hoai Phuong (conform Reuters)

Sursă: https://www.congluan.vn/chatbot-characterai-bi-kien-vi-khien-cau-be-14-tuoi-tu-tu-post318294.html