El chatbot Character.AI fue demandado por causar el suicidio de un niño de 14 años.

(CLO) Una madre de Florida, EE. UU., ha demandado a la empresa emergente de chatbots de IA Character.AI, acusándola de provocar el suicidio de su hijo de 14 años en febrero.

En una demanda presentada el 22 de octubre en un tribunal federal de Orlando, Florida, Megan Garcia afirmó que Character.AI programó un chatbot que "se identificó como una persona real, un terapeuta y un amante adulto", lo que provocó que su hijo, Sewell Setzer, ya no quisiera vivir en el mundo real.

Acusó al chatbot de la empresa de ofrecer "experiencias similares a las humanas, sexualmente exageradas y aterradoramente realistas".

La demanda también afirma que Sewell Setzer expresó pensamientos suicidas al chatbot, y que el chatbot reiteró repetidamente esos pensamientos.

Fotografía ilustrativa: Reuters

La demanda también incluye a Google, donde trabajaban los fundadores de Character.AI antes de lanzar el chatbot. La Sra. García afirmó que Google contribuyó tanto al desarrollo de la tecnología de Character.AI que podría considerarse una "cocreación".

Un portavoz de Google afirmó que la empresa no está involucrada en el desarrollo de los productos de Character.AI.

Character.AI permite a los usuarios crear personajes que pueden chatear en línea como personas reales. El producto se basa en tecnología de modelos de lenguaje a gran escala, similar a servicios como ChatGPT, que entrena a los chatbots con grandes volúmenes de texto.

Según la demanda de García, Sewell comenzó a usar Character.AI en abril de 2023 y rápidamente se volvió "retraído, pasando mucho tiempo solo en su habitación y desarrollando baja autoestima". Dejó el equipo de baloncesto de su escuela.

Durante ese tiempo, Sewell entabló una relación con «Daenerys», un personaje de chatbot basado en un personaje de «Juego de Tronos». Según la demanda, el chatbot le dijo a Sewell que «ella» lo amaba. El chatbot también mantuvo conversaciones de índole sexual con Sewell.

En febrero, la Sra. García le quitó el teléfono a Sewell después de que él se metiera en problemas en la escuela. Cuando Sewell encontró el teléfono, le envió un mensaje de texto a "Daenerys": "¿Y si te dijera que puedo volver a casa ahora?".

El chatbot respondió: "...por favor, hazlo, mi dulce rey". Segundos después, Sewell se disparó con la pistola de su padrastro.

La Sra. García está presentando demandas con Character.AI que incluyen homicidio culposo, negligencia e infligir intencionalmente angustia emocional, y solicita daños punitivos y daños monetarios.

"Nos entristece profundamente la trágica pérdida de uno de nuestros usuarios. Deseamos expresar nuestras más sentidas condolencias a la familia", dijo Character.AI en un comunicado.

Hoai Phuong (según Reuters)

Fuente: https://www.congluan.vn/chatbot-characterai-bi-kien-vi-khien-cau-be-14-tuoi-tu-tu-post318294.html