(CLO) Una madre de Florida, EE. UU., demandó a la startup de chatbot de inteligencia artificial Character.AI, acusando a la compañía de provocar el suicidio de su hijo de 14 años en febrero.
En una demanda presentada el 22 de octubre en el tribunal federal de Orlando, Florida, Megan García dijo que Character.AI programó un chatbot que "se identificó como una persona real, un terapeuta y un amante adulto", lo que llevó a su hijo, Sewell Setzer, a no querer vivir más en el mundo real.
Acusó al chatbot de la compañía de ofrecer "experiencias humanas, sexualmente exageradas y terriblemente realistas".
La demanda también dice que Sewell Setzer expresó pensamientos suicidas al chatbot y el chatbot reiteró esos pensamientos repetidamente.
Foto de la ilustración: Reuters
La demanda también se dirige a Google, donde trabajaron los fundadores de Character.AI antes de lanzar el chatbot. La Sra. García afirmó que Google contribuyó tanto al desarrollo de la tecnología de Character.AI que podría considerarse una "cocreación".
Un portavoz de Google dijo que la compañía no está involucrada en el desarrollo de los productos de Character.AI.
Character.AI permite a los usuarios crear personajes que pueden chatear en línea como personas reales. El producto se basa en una tecnología de modelos de lenguaje extensos, similar a servicios como ChatGPT, que entrena a los chatbots con grandes volúmenes de texto.
Según la demanda de García, Sewell comenzó a usar Character.AI en abril de 2023 y rápidamente se volvió solitario, pasando mucho tiempo solo en su habitación, y comenzó a tener baja autoestima. Dejó el equipo de baloncesto de su escuela.
Durante ese tiempo, Sewell conectó con «Daenerys», un chatbot basado en un personaje de «Juego de Tronos». Según la demanda, el chatbot le dijo a Sewell que «ella» amaba al chico. El chatbot también mantuvo conversaciones sexuales con Sewell.
En febrero, la Sra. García le quitó el teléfono a Sewell después de que este se metiera en problemas en la escuela. Cuando Sewell lo encontró, le envió un mensaje de texto a "Daenerys": "¿Y si te dijera que puedo volver a casa ahora?".
El chatbot respondió: «...Por favor, hazlo, mi dulce rey». Segundos después, Sewell se disparó con la pistola de su padrastro.
La Sra. García está presentando reclamos ante Character.AI que incluyen muerte por negligencia, negligencia e infligir intencionalmente angustia emocional, y está buscando daños punitivos y daños monetarios.
Nos entristece profundamente la trágica pérdida de uno de nuestros usuarios. Expresamos nuestras más sinceras condolencias a la familia, declaró Character.AI en un comunicado.
Hoai Phuong (según Reuters)
[anuncio_2]
Fuente: https://www.congluan.vn/chatbot-characterai-bi-kien-vi-khien-cau-be-14-tuoi-tu-tu-post318294.html
Kommentar (0)