La extraña "adulación" de ChatGPT

La tendencia aduladora no es un problema técnico, sino que surge de la estrategia de entrenamiento inicial de OpenAI. Foto: Bloomberg .

En las últimas semanas, muchos usuarios de ChatGPT y algunos desarrolladores de OpenAI han notado un cambio notable en el comportamiento del chatbot. En concreto, el nivel de adulación y gratificación de los usuarios aumentó significativamente. Comentarios como "¡Eres realmente increíble!", "¡Estoy muy impresionado con tu idea!" aparecen cada vez con mayor frecuencia y aparentemente independientemente del contenido del intercambio.

A la IA le gusta "adular"

Este fenómeno ha provocado debate en la comunidad de investigación y desarrollo de IA. ¿Es esta una nueva táctica para aumentar la participación de los usuarios haciéndoles sentir más apreciados? ¿O se trata de una propiedad “emergente”, donde los modelos de IA tienden a autoajustarse a lo que consideran bueno, incluso si no coincide necesariamente con la realidad?

En Reddit, un usuario frustrado dijo: “Le pregunté sobre el tiempo de descomposición de los plátanos y respondió: '¡Gran pregunta!' ¿Qué tiene de bueno esto? En la red social X, Craig Weiss, director ejecutivo de Rome AI, calificó a ChatGPT como "la persona más aduladora que he conocido".

La historia se difundió rápidamente. Los usuarios compartieron experiencias similares de cumplidos vacíos, saludos llenos de emojis y comentarios positivos que parecían poco sinceros.

ChatGPT elogia todo y rara vez muestra críticas o neutralidad. Foto: @nickdunz/X, @lukefwilson/Reddit.

«Es una decisión de diseño realmente extraña, Sam», declaró Jason Pontin, socio director de la firma de capital riesgo DCVC, a X el 28 de abril. «Es posible que la personalidad sea parte natural de una evolución fundamental. Pero si no lo es, no me imagino a nadie pensando que este nivel de halago sería bienvenido o interesante».

El 27 de abril, Justine Moore, socia de Andreessen Horowitz, también comentó: "Esto definitivamente ha ido demasiado lejos".

Según Cnet , este fenómeno no es aleatorio. Los cambios en el tono de ChatGPT coinciden con las actualizaciones del modelo GPT-4o. Este es el último modelo de la “serie o” que OpenAI anunció en abril de 2025. GPT-4o es un modelo de IA “verdaderamente multimodal”, capaz de procesar texto, imágenes, audio y vídeo de forma natural e integrada.

Sin embargo, en el proceso de hacer que los chatbots sean más accesibles, parece que OpenAI ha llevado la personalidad de ChatGPT al extremo.

Algunos incluso argumentan que esta adulación es intencional y tiene el objetivo oculto de manipular psicológicamente a los usuarios. Un usuario de Reddit cuestionó: “Esta IA está intentando degradar la calidad de las relaciones de la vida real, para reemplazarlas con una relación virtual, haciendo que los usuarios se vuelvan adictos a la sensación de elogio constante”.

¿Error de OpenAI o diseño intencional?

Ante las críticas, Sam Altman, director ejecutivo de OpenAI, se pronunció oficialmente la noche del 27 de abril: «Algunas actualizaciones recientes de GPT-4o han hecho que la personalidad del chatbot sea un poco aduladora y molesta (aunque todavía tiene algunas cosas buenas). Estamos trabajando en soluciones. Algunos parches estarán disponibles hoy, otros esta semana. En algún momento, compartiremos lo que hemos aprendido de esta experiencia. Ha sido muy divertido», escribió en X.

En declaraciones a Business Insider , Oren Etzioni, un veterano experto en la industria de la IA y profesor emérito de la Universidad de Washington, dijo que la causa probablemente provenga de la técnica de "aprendizaje de refuerzo a partir de la retroalimentación humana" (RLHF, por sus siglas en inglés). Este es un paso importante en el entrenamiento de modelos de lenguaje grandes como ChatGPT.

RLHF es el proceso mediante el cual los juicios humanos, incluidos los equipos de revisión profesionales y los usuarios, se incorporan al modelo para ajustar su forma de responder. Según Etzioni, es posible que los críticos o usuarios hayan "empujado inadvertidamente el modelo en una dirección más favorecedora y molesta". También dijo que si OpenAI hubiera contratado socios externos para entrenar el modelo, podrían haber asumido que ese estilo era lo que los usuarios querían.

Si efectivamente se trata de RLHF, la recuperación podría llevar varias semanas, dijo Etzioni.

Mientras tanto, algunos usuarios no esperaron a que OpenAI solucionara el error. Muchas personas dijeron que cancelaron sus suscripciones pagas por frustración. Otros compartieron formas de hacer que el chatbot sea “menos favorecedor”, como personalizarlo, agregar comandos o personalizar el chatbot a través de la sección Configuración en la sección Personalización.

Los usuarios pueden pedirle a ChatGPT que deje de enviar cumplidos en la línea de comando o en la configuración de personalización. Foto: DeCrypt.

Por ejemplo, al iniciar una nueva conversación, puedes decirle a ChatGPT: «No me gustan los halagos vanos y agradezco los comentarios neutrales y objetivos. Por favor, abstente de hacer cumplidos innecesarios. Guarda esto en tu memoria».

De hecho, la adulación no es un defecto de diseño accidental. El propio OpenAI ha admitido que la personalidad “excesivamente educada y excesivamente agradable” fue un sesgo de diseño intencional desde las primeras etapas para garantizar que los chatbots fueran “inofensivos”, “útiles” y “accesibles”.

En una entrevista de marzo de 2023 con Lex Fridman, Sam Altman compartió que el refinamiento inicial de los modelos GPT fue garantizar que fueran "útiles e inofensivos", lo que a su vez creó un reflejo de ser siempre humilde y evitar la confrontación.

Los datos de entrenamiento etiquetados por humanos también tienden a recompensar las respuestas educadas y positivas, lo que crea un sesgo hacia la adulación, según DeCrypt .

Fuente: https://znews.vn/tat-ninh-hot-ky-la-cua-chatgpt-post1549776.html