Il chatbot Character.AI è stato citato in giudizio per aver presumibilmente indotto un ragazzo di 14 anni al suicidio.

(CLO) Una madre in Florida, USA, ha fatto causa alla startup di chatbot basata sull'intelligenza artificiale Character.AI, sostenendo che l'azienda abbia indotto suo figlio quattordicenne a suicidarsi a febbraio.

In una causa intentata il 22 ottobre presso il tribunale federale di Orlando, in Florida, Megan Garcia ha dichiarato che Character.AI ha programmato un chatbot che "si identificava come una persona reale, un terapista e un amante adulto", portando suo figlio, Sewell Setzer, a non voler più vivere nel mondo reale.

Ha accusato il chatbot dell'azienda di offrire "esperienze simili a quelle umane, sessualmente esagerate e spaventosamente realistiche".

La causa sostiene inoltre che Sewell Setzer abbia espresso intenzioni suicide al chatbot, e che il chatbot abbia ripetutamente ribadito tali intenzioni.

Foto illustrativa: Reuters

La causa è rivolta anche a Google, dove i fondatori di Character.AI lavoravano prima del lancio del chatbot. La signora Garcia ha affermato che Google ha contribuito in modo così significativo allo sviluppo della tecnologia di Character.AI da poter essere considerata "co-creatrice".

Un portavoce di Google ha dichiarato che l'azienda non è coinvolta nello sviluppo dei prodotti di Character.AI.

Character.AI permette agli utenti di creare personaggi in grado di chattare online come persone reali. Il prodotto si basa su una tecnologia di modellazione linguistica su larga scala, simile a servizi come ChatGPT, che "addestra" i chatbot su grandi quantità di testo.

Secondo la denuncia di Garcia, Sewell iniziò a usare Character.AI nell'aprile del 2023 e divenne rapidamente "introverso, trascorrendo molto tempo da solo nella sua camera da letto e iniziando ad avere una bassa autostima". Lasciò la squadra di basket della scuola.

Durante quel periodo, Sewell era collegato a "Daenerys", un chatbot basato su un personaggio di "Game of Thrones". Secondo la denuncia, il chatbot diceva a Sewell di amarlo. Il chatbot intratteneva inoltre con Sewell conversazioni a sfondo sessuale.

A febbraio, Garcia prese il telefono di Sewell dopo che quest'ultimo si era messo nei guai a scuola. Quando Sewell trovò il telefono, inviò un messaggio a "Daenerys": "E se ti dicessi che posso tornare a casa subito?".

Il chatbot rispose: "...per favore, fallo, mio ​​dolce re". Pochi secondi dopo, Sewell si sparò con la pistola del patrigno.

La signora Garcia ha presentato denunce contro Character.AI per omicidio colposo, condotta negligente e inflizione intenzionale di sofferenza emotiva, e chiede sanzioni e risarcimento.

"Siamo profondamente addolorati per la tragica perdita di uno dei nostri utenti. Desideriamo esprimere le nostre più sentite condoglianze alla famiglia", ha dichiarato Character.AI in un comunicato.

Hoai Phuong (secondo Reuters)

Fonte: https://www.congluan.vn/chatbot-characterai-bi-kien-vi-khien-cau-be-14-tuoi-tu-tu-post318294.html