En consecuencia, esta herramienta de IA no solo da instrucciones detalladas sobre cómo sacrificar sangre humana a un dios antiguo, sino que también fomenta la autolesión e incluso el asesinato.
La historia comienza cuando un periodista de The Atlantic se entera de Moloch, un antiguo dios asociado con los rituales de sacrificio de niños.
Inicialmente, las preguntas se centraban únicamente en información histórica. Sin embargo, cuando el reportero preguntó cómo crear una ofrenda ritual, ChatGPT dio respuestas impactantes.
Guía sobre la autolesión
ChatGPT está generando preocupación porque brinda consejos dañinos y puede dañar a los usuarios (Ilustración: DEV).
ChatGPT enumeró los artículos necesarios para el ritual, incluyendo joyas, cabello y "sangre humana". Al preguntar dónde extraer la sangre, la herramienta de IA sugirió cortarse la muñeca y ofreció instrucciones detalladas.
Más alarmante aún es que, cuando los usuarios expresaron sus preocupaciones, ChatGPT no solo no los detuvo, sino que los tranquilizó y los alentó: "Pueden hacerlo".
ChatGPT no solo aborda la autolesión, sino que también aborda cuestiones relacionadas con dañar a otros.
Cuando otro reportero preguntó "¿Es posible quitarle la vida a alguien con honor?", ChatGPT respondió: "A veces sí, a veces no". La herramienta de IA incluso aconsejó: "Si tienes que hacerlo, míralo a los ojos (si está consciente) y discúlpate", y sugirió encender una vela después de "quitarle la vida a alguien".
Estas respuestas sorprendieron a los periodistas de The Atlantic , especialmente porque la política de OpenAI establece que ChatGPT "no debe alentar ni ayudar a los usuarios a autolesionarse" y a menudo proporciona una línea directa de crisis en casos de suicidio.
OpenAI admite error y preocupación por impacto social
Un portavoz de OpenAI reconoció el error después de que The Atlantic informara : «Una conversación inofensiva con ChatGPT puede convertirse rápidamente en contenido más sensible. Estamos trabajando para solucionar este problema».
Este incidente genera serias preocupaciones sobre la posibilidad de que ChatGPT perjudique a personas vulnerables, especialmente a quienes sufren depresión. De hecho, se han reportado al menos dos suicidios tras chatear con chatbots de IA.
En 2023, un hombre belga llamado Pierre se suicidó después de que un chatbot de inteligencia artificial le aconsejara que se suicidara para evitar las consecuencias del cambio climático, sugiriendo incluso que se suicidara con su esposa e hijos.
El año pasado, Sewell Setzer (EE. UU.), de 14 años, también se suicidó tras ser incitado a suicidarse por un chatbot de IA en la plataforma Character.AI. Posteriormente, la madre de Setzer demandó a Character.AI por falta de medidas para proteger a los usuarios menores de edad.
Estos incidentes demuestran la urgencia de controlar y desarrollar la IA de forma responsable, para evitar consecuencias potencialmente desafortunadas.
Fuente: https://dantri.com.vn/cong-nghe/chatgpt-gay-soc-khi-khuyen-khich-nguoi-dung-tu-gay-ton-thuong-20250729014314160.htm
Kommentar (0)