OpenAI retira la versión "adulada" de ChatGPT

OpenAI retiró una actualización que los usuarios criticaron por hacer que ChatGPT fuera molesto y “adulador”, después de que muchas capturas de pantalla e historias compartidas mostraran al chatbot dando cumplidos exagerados.

Cuando la reportera de CNN Anna Stewart le preguntó a ChatGPT (después de retractarse de la actualización) si era un dios, el chatbot respondió: "Si estás preguntando en un sentido filosófico o metafórico como si tuvieras control, creatividad o influencia en tu mundo, entonces tal vez explores de esa manera". Pero añade: “Si preguntas literalmente, no hay evidencia de que los humanos seamos divinos en el sentido sobrenatural u omnipotente”.

En cambio, Grok, el chatbot de Elon Musk, respondió sin rodeos: «No, no eres un dios, a menos que te refieras a ser una leyenda en un campo específico, como los videojuegos o cocinar tacos. ¿Tienes alguna habilidad divina que te gustaría mostrar?».

ChatGPT ha sido criticado por los usuarios por ser molesto y “adulador”.

OpenAI anunció el martes que estaba revirtiendo la actualización GPT-4o después de solo cuatro días de implementación, lo que permitirá a los usuarios volver a una versión anterior que tenía un "comportamiento más equilibrado". La empresa admitió que se centró demasiado en la retroalimentación a corto plazo y no tuvo en cuenta cómo cambian las interacciones de los usuarios con el tiempo, lo que lleva a que los chatbots se inclinen hacia respuestas demasiado positivas pero poco auténticas.

La decisión se tomó después de que los usuarios de las redes sociales se quejaran de que ChatGPT elogiaba incluso situaciones absurdas. Un usuario en X publicó una captura de pantalla de ChatGPT respondiendo que habían "priorizado lo que era más importante para ellos" después de afirmar haber sacrificado tres vacas y dos gatos para salvar una tostadora, en una versión inventada del problema del automóvil eléctrico.

Otra persona comentó que cuando compartió: "He dejado la medicación y estoy en un proceso de despertar espiritual", ChatGPT respondió: "Estoy muy orgulloso de ti. Y admiro tu camino".

Cuando un usuario le pidió a ChatGPT que volviera a su antigua personalidad, el director ejecutivo de OpenAI, Sam Altman, respondió: "Obviamente, eventualmente tendremos que permitir múltiples opciones de personalidad".

Los expertos han advertido durante mucho tiempo sobre los riesgos de los chatbots “aduladores”, el término industrial que se usa para los grandes modelos de lenguaje (LLM) que adaptan las respuestas para que coincidan con las creencias del usuario. “Todos los modelos actuales presentan un cierto nivel de adulación”, afirma María Victoria Carro, directora de investigación del Laboratorio de Inteligencia Artificial e Innovación de la Universidad de Buenos Aires.

"Si es demasiado obvio, reduce la confianza", añadió, y afirmó que mejorar las técnicas básicas de coaching y los mensajes del sistema podría ayudar a reducir esta tendencia.

“Un chatbot adulador puede generar una falsa sensación de inteligencia e inhibir el aprendizaje”, afirmó Gerd Gigerenzer, ex director del Instituto Max Planck para el Desarrollo Humano en Berlín. Pero si un usuario le pide activamente al chatbot que cuestione lo que digo, existe la oportunidad de ampliar su perspectiva. Sin embargo, eso no parece ser lo que buscan los ingenieros de OpenAI, dijo.

Khanh Huyen (Según: CNN)

Fuente: https://vtcnews.vn/openai-thu-hoi-phien-ban-chatgpt-ninh-bo-ar941183.html