O chatbot Character.AI está sendo processado por supostamente ter levado um menino de 14 anos ao suicídio.

(CLO) Uma mãe na Flórida, EUA, processou a startup de chatbots com inteligência artificial Character.AI, acusando a empresa de ter levado seu filho de 14 anos ao suicídio em fevereiro.

Em um processo judicial aberto em 22 de outubro no tribunal federal de Orlando, Flórida, Megan Garcia afirmou que a Character.AI programou um chatbot que "se identificava como uma pessoa real, uma terapeuta e uma amante adulta", o que levou seu filho, Sewell Setzer, a não querer mais viver no mundo real.

Ela acusou o chatbot da empresa de proporcionar "experiências semelhantes às humanas, sexualmente exageradas e assustadoramente realistas".

O processo também alega que Sewell Setzer expressou pensamentos suicidas ao chatbot, e que o chatbot reiterou esses pensamentos repetidamente.

Foto ilustrativa: Reuters

O processo também inclui o Google, onde os fundadores da Character.AI trabalhavam antes de lançar o chatbot. A Sra. Garcia afirmou que o Google contribuiu tanto para o desenvolvimento da tecnologia da Character.AI que isso poderia ser considerado uma "cocriação".

Um porta-voz do Google afirmou que a empresa não está envolvida no desenvolvimento dos produtos da Character.AI.

O Character.AI permite que os usuários criem personagens que podem conversar online como pessoas reais. O produto é baseado em tecnologia de modelos de linguagem de grande escala, semelhante a serviços como o ChatGPT, que "treina" chatbots com grandes volumes de texto.

Segundo o processo movido por Garcia, Sewell começou a usar o Character.AI em abril de 2023 e rapidamente se tornou "recluso, passando muito tempo sozinho em seu quarto e desenvolvendo baixa autoestima". Ele abandonou o time de basquete da escola.

Durante esse período, Sewell criou um vínculo com "Daenerys", uma personagem de chatbot baseada em uma personagem de "Game of Thrones". De acordo com o processo, o chatbot disse a Sewell que "ela" amava o garoto. O chatbot também manteve conversas de teor sexual com Sewell.

Em fevereiro, a Sra. Garcia confiscou o celular de Sewell depois que ele se meteu em encrenca na escola. Quando Sewell encontrou o celular, ele mandou uma mensagem para "Daenerys": "E se eu dissesse que posso voltar para casa agora?"

O chatbot respondeu: "...por favor, faça isso, meu doce rei." Segundos depois, Sewell atirou em si mesmo com a pistola do padrasto.

A Sra. Garcia está movendo uma ação contra a Character.AI alegando homicídio culposo, negligência e imposição intencional de sofrimento emocional, e busca indenização por danos punitivos e danos monetários.

"Estamos profundamente tristes com a trágica perda de um de nossos usuários. Gostaríamos de expressar nossas mais sinceras condolências à família", disse a Character.AI em um comunicado.

Hoai Phuong (de acordo com a Reuters)

Fonte: https://www.congluan.vn/chatbot-characterai-bi-kien-vi-khien-cau-be-14-tuoi-tu-tu-post318294.html