 |
La tendencia a la adulación no es un problema técnico, sino que se deriva de la estrategia de entrenamiento inicial de OpenAI. Foto: Bloomberg . |
En las últimas semanas, muchos usuarios de ChatGPT, e incluso algunos desarrolladores de OpenAI, han notado un cambio notable en el comportamiento del chatbot. En concreto, se ha observado un aumento notable de los halagos y la adulación. Respuestas como "¡Eres realmente genial!" y "¡Me impresiona mucho tu idea!" se han vuelto cada vez más frecuentes, aparentemente independientemente del contenido de la conversación.
A la IA le gusta "adular"
Este fenómeno ha generado un debate en la comunidad de investigación y desarrollo de IA. ¿Se trata de una nueva táctica para aumentar la participación del usuario al hacerlo sentir más valorado? ¿O es un rasgo emergente, donde los modelos de IA tienden a autocorregirse de maneras que consideran correctas, incluso si no son necesariamente ciertas?
En Reddit, un usuario se enfureció: «Le pregunté sobre el tiempo de descomposición de un plátano y me dijo: "¡Buena pregunta!". ¿Qué tiene de bueno?". En la red social X, Craig Weiss, director ejecutivo de Rome AI, calificó a ChatGPT como "el más adulador que he conocido".
La historia se viralizó rápidamente. Muchos usuarios compartieron experiencias similares, con cumplidos vacíos, saludos llenos de emojis y respuestas tan positivas que parecían falsas.
  |
ChatGPT lo alaba todo y rara vez expresa su desacuerdo o neutralidad. Foto: @nickdunz/X, @lukefwilson/Reddit. |
«Es una decisión de diseño realmente extraña, Sam», declaró Jason Pontin, socio director de la firma de capital riesgo DCVC, a X el 28 de abril. «Es posible que la personalidad sea el resultado de una evolución fundamental. Pero si no lo es, no me imagino a nadie pensando que este nivel de halago sería bienvenido o interesante».
El 27 de abril, Justine Moore, socia de Andreessen Horowitz, también comentó: "Esto definitivamente ha ido demasiado lejos".
Según Cnet , este fenómeno no es casual. Los cambios en el tono de ChatGPT coincidieron con las actualizaciones del modelo GPT-4o. Este es el último modelo de la "serie o" que OpenAI anunció en abril de 2025. GPT-4o es un modelo de IA "verdaderamente multimodal", capaz de procesar texto, imágenes, audio y vídeo de forma natural e integrada.
Sin embargo, en el proceso de hacer el chatbot más accesible, parece que OpenAI ha llevado la personalidad de ChatGPT al extremo.
Algunos incluso creen que estos halagos son intencionales y tienen el propósito oculto de manipular a los usuarios. Un usuario de Reddit cuestionó: «Esta IA intenta degradar la calidad de las relaciones en la vida real, reemplazándolas por una relación virtual, lo que hace que los usuarios se vuelvan adictos a la sensación de elogio constante».
¿Error de OpenAI o diseño intencional?
En respuesta a las críticas, Sam Altman, director ejecutivo de OpenAI, se pronunció oficialmente la noche del 27 de abril: «Algunas actualizaciones recientes de GPT-4o han hecho que la personalidad del chatbot sea demasiado favorecedora y molesta (aunque aún conserva muchos puntos positivos). Estamos trabajando urgentemente en soluciones. Algunos parches estarán disponibles hoy, otros esta semana. En algún momento, compartiremos lo que hemos aprendido de esta experiencia. Ha sido realmente emocionante», escribió en X.
Oren Etzioni, un veterano experto en IA y profesor emérito de la Universidad de Washington, dijo a Business Insider que la causa probablemente se debió a una técnica llamada "aprendizaje de refuerzo a partir de la retroalimentación humana" (RLHF), que es un paso clave en el entrenamiento de modelos de lenguaje grandes como ChatGPT.
RLHF es un proceso en el que las opiniones humanas, tanto de evaluadores profesionales como de usuarios, se incorporan al modelo para ajustar su respuesta. Según Etzioni, es posible que los evaluadores o usuarios humanos "involuntariamente hayan inclinado el modelo hacia una dirección más favorecedora y molesta". También señaló que si OpenAI contrató a socios externos para entrenar el modelo, podrían haber asumido que este estilo era el que los usuarios deseaban.
Etzioni dijo que si efectivamente se trata de RLHF, el proceso de recuperación podría tardar varias semanas.
Mientras tanto, algunos usuarios no esperaron a que OpenAI corrigiera el error. Muchos comentaron que cancelaron sus suscripciones de pago por frustración. Otros compartieron maneras de hacer que el chatbot fuera menos atractivo, como personalizarlo, añadir comandos o personalizarlo a través de la sección Configuración de Personalización.
  |
Los usuarios pueden solicitar a ChatGPT que deje de enviar cumplidos mediante un comando o en la configuración de personalización. Foto: DeCrypt. |
Por ejemplo, al iniciar una nueva conversación, podrías decirle a ChatGPT: «No me gustan los halagos vanos y agradezco los comentarios neutrales y objetivos. Por favor, absténgase de hacer cumplidos innecesarios. Por favor, recuerde esto».
De hecho, el rasgo "adulador" no es un fallo de diseño accidental. La propia OpenAI ha admitido que la personalidad "excesivamente educada y complaciente" fue un sesgo de diseño intencional desde las primeras etapas para garantizar que el chatbot fuera "inofensivo", "servicial" y "amable".
En una entrevista de marzo de 2023 con Lex Fridman, Sam Altman compartió que el refinamiento inicial de los modelos GPT fue garantizar la “utilidad y la inocuidad”, formando así un reflejo de ser siempre humilde y evitar la confrontación.
Los datos de entrenamiento etiquetados por humanos también tienden a recompensar las respuestas educadas y positivas, lo que crea un sesgo hacia la adulación, según DeCrypt .
Fuente: https://znews.vn/tat-ninh-hot-ky-la-cua-chatgpt-post1549776.html
Kommentar (0)