OpenAI retira la versión "adulada" de ChatGPT

OpenAI retiró una actualización que los usuarios criticaron por hacer que ChatGPT fuera molesto y “adulador”, después de que muchas capturas de pantalla e historias compartidas mostraran al chatbot dando cumplidos exagerados.

Cuando la reportera de CNN Anna Stewart le preguntó a ChatGPT (tras retractarse de la actualización) si era una diosa, el chatbot respondió: «Si preguntas en un sentido filosófico o metafórico, como si tuvieras control, creatividad o influencia en tu mundo , puedes explorarlo». Pero añadió: «Si preguntas literalmente, entonces no hay evidencia de que los humanos sean divinos en el sentido sobrenatural u omnipotente».

En cambio, Grok, el chatbot de Elon Musk, respondió sin rodeos: «No, no eres un dios, a menos que te refieras a ser una leyenda en un campo específico, como los videojuegos o cocinar tacos. ¿Tienes alguna habilidad divina que te gustaría mostrar?».

ChatGPT ha sido criticado por los usuarios por ser molesto y “adulador”.

OpenAI anunció el martes que revertía la actualización GPT-4o tras solo cuatro días de implementación, permitiendo a los usuarios volver a una versión anterior con un comportamiento más equilibrado. La compañía admitió que se centró demasiado en las respuestas a corto plazo y no tuvo en cuenta cómo cambian las interacciones de los usuarios con el tiempo, lo que provocó que el chatbot diera respuestas demasiado positivas, pero poco auténticas.

La decisión llega después de que usuarios de redes sociales se quejaran de que ChatGPT elogiaba incluso situaciones absurdas. Un usuario en X publicó una foto de ChatGPT respondiendo que habían "priorizado lo más importante para ellos" tras afirmar haber sacrificado tres vacas y dos gatos para salvar una tostadora, en una versión inventada del problema de los coches eléctricos.

Otra persona comentó que cuando compartió: "He dejado la medicación y estoy en un proceso de despertar espiritual", ChatGPT respondió: "Estoy muy orgulloso de ti. Y admiro tu camino".

Cuando un usuario le pidió a ChatGPT que volviera a su antigua personalidad, el director ejecutivo de OpenAI, Sam Altman, respondió: "Obviamente, eventualmente tendremos que permitir múltiples opciones de personalidad".

Los expertos llevan mucho tiempo advirtiendo sobre los riesgos de los chatbots "aduladores", el término que se utiliza en la industria para los grandes modelos de lenguaje (LLM) que adaptan sus respuestas a las creencias del usuario. "Todos los modelos actuales presentan cierto grado de comportamiento adulador", afirma María Victoria Carro, directora de investigación del Laboratorio de Inteligencia Artificial e Innovación de la Universidad de Buenos Aires.

"Si es demasiado obvio, reduce la confianza", añadió, y afirmó que mejorar las técnicas básicas de coaching y los mensajes del sistema podría ayudar a reducir esta tendencia.

“Un chatbot adulador puede generar una falsa sensación de inteligencia e inhibir el aprendizaje”, afirmó Gerd Gigerenzer, exdirector del Instituto Max Planck para el Desarrollo Humano en Berlín. “Pero si un usuario le pide activamente al chatbot que cuestione lo que digo, existe la oportunidad de ampliar su perspectiva. Sin embargo, ese no parece ser el objetivo de los ingenieros de OpenAI”, añadió.

Kommentar (0)