Personagem de chatbot.AI é processado por causar suicídio em garoto de 14 anos

(CLO) Uma mãe na Flórida, EUA, processou a startup de chatbot de IA Character.AI, acusando a empresa de causar suicídio em seu filho de 14 anos em fevereiro.

Em uma ação judicial movida em 22 de outubro no tribunal federal de Orlando, Flórida, Megan Garcia disse que a Character.AI programou um chatbot que "se identificou como uma pessoa real, um terapeuta e um amante adulto", levando seu filho, Sewell Setzer, a não querer mais viver no mundo real.

Ela acusou o chatbot da empresa de proporcionar "experiências humanamente exageradas e assustadoramente realistas".

O processo também afirma que Sewell Setzer expressou pensamentos suicidas ao chatbot, e o chatbot reiterou esses pensamentos repetidamente.

Foto ilustrativa: Reuters

O processo também tem como alvo o Google, onde os fundadores da Character.AI trabalharam antes de lançar o chatbot. A Sra. Garcia disse que o Google contribuiu tanto para o desenvolvimento da tecnologia da Character.AI que ela poderia ser considerada uma "cocriação".

Um porta-voz do Google disse que a empresa não está envolvida no desenvolvimento dos produtos da Character.AI.

O Character.AI permite que os usuários criem personagens que podem conversar online como pessoas reais. O produto é baseado na tecnologia de modelos de linguagem de grande porte, semelhante a serviços como o ChatGPT, que "treina" chatbots com grandes volumes de texto.

De acordo com o processo movido por Garcia, Sewell começou a usar o Character.AI em abril de 2023 e rapidamente se tornou "recluso, passando muito tempo sozinho em seu quarto e desenvolvendo baixa autoestima". Ele deixou o time de basquete da escola.

Durante esse período, Sewell criou um vínculo com "Daenerys", uma personagem de chatbot baseada em uma personagem de "Game of Thrones". Segundo o processo, a chatbot disse a Sewell que "ela" amava o rapaz. A chatbot também teve conversas sexuais com Sewell.

Em fevereiro, a Sra. Garcia pegou o celular de Sewell depois que ele se meteu em encrenca na escola. Quando Sewell encontrou o celular, enviou uma mensagem de texto para "Daenerys": "E se eu dissesse que posso voltar para casa agora?"

O chatbot respondeu: "...por favor, faça isso, meu doce rei." Sewell atirou em si mesmo com a pistola do padrasto segundos depois.

A Sra. Garcia está entrando com ações na Character.AI que incluem homicídio culposo, negligência e inflição intencional de sofrimento emocional, e busca indenização punitiva e monetária.

"Estamos profundamente tristes com a trágica perda de um de nossos usuários. Gostaríamos de expressar nossas mais profundas condolências à família", disse a Character.AI em um comunicado.

Hoai Phuong (de acordo com a Reuters)

Fonte: https://www.congluan.vn/chatbot-characterai-bi-kien-vi-khien-cau-be-14-tuoi-tu-tu-post318294.html