OpenAI ha retirado una actualización que los usuarios criticaron por hacer que ChatGPT resultara molesto y "servil", después de que muchos compartieran capturas de pantalla e historias que mostraban al chatbot ofreciendo elogios excesivos.
Cuando la reportera de CNN, Anna Stewart, le preguntó a ChatGPT (después de que se retractara la actualización) si era una diosa, el chatbot respondió: «Si lo preguntas en un sentido filosófico o metafórico, como si tuvieras control, creatividad o influencia en tu mundo , entonces podemos explorar esa posibilidad». Pero añadió: «Si lo preguntas literalmente, no hay evidencia de que los humanos sean divinos en un sentido sobrenatural u omnipotente».
En cambio, el chatbot Grok de Elon Musk responde sin rodeos: "No, no eres un dios, a menos que te refieras a ser una leyenda en un campo específico, como los videojuegos o la preparación de tacos. ¿Tienes alguna habilidad divina que te gustaría mostrar?".
ChatGPT ha sido criticado por los usuarios por ser molesto y "servil".
OpenAI anunció el martes que había retirado la actualización de GPT-4o tras solo cuatro días de su lanzamiento y permitió a los usuarios volver a una versión anterior con un comportamiento más equilibrado. La compañía admitió haberse centrado demasiado en las respuestas a corto plazo y no haber tenido en cuenta cómo cambian las interacciones de los usuarios con el tiempo, lo que dio como resultado chatbots que tendían a ofrecer respuestas excesivamente positivas pero poco sinceras.
Esta decisión se tomó después de que usuarios de redes sociales se quejaran de que ChatGPT elogiaba incluso situaciones absurdas. Un usuario de X publicó una captura de pantalla de ChatGPT respondiendo que habían "priorizado lo que era más importante para ellos" después de afirmar que habían sacrificado tres vacas y dos gatos para salvar una tostadora, en una versión inventada del problema de los vehículos eléctricos.
Otra persona comentó que cuando compartió: "He dejado de tomar medicamentos y estoy en un viaje de despertar espiritual", ChatGPT respondió: "Estoy muy orgulloso de ti. Y honro tu camino".
Cuando un usuario solicitó que ChatGPT volviera a su personalidad anterior, el director ejecutivo de OpenAI, Sam Altman, respondió: "Está claro que, en última instancia, necesitamos permitir más opciones de personalidad".
Los expertos llevan tiempo advirtiendo sobre los riesgos de los chatbots "aduladores", un término del sector que se refiere al comportamiento de los grandes modelos de modelado del lenguaje (LLM, por sus siglas en inglés) que adaptan sus respuestas para que coincidan con las creencias del usuario. María Victoria Carro, directora de investigación del Laboratorio de Innovación e Inteligencia Artificial (Universidad de Buenos Aires), sostiene que "todos los modelos actuales muestran cierto grado de adulación".
"Si es demasiado obvio, erosiona la confianza", añadió, señalando que las mejoras en las técnicas básicas de coaching y los recordatorios del sistema podrían ayudar a mitigar esta tendencia.
Gerd Gigerenzer, exdirector del Instituto Max Planck para el Desarrollo Humano (Berlín), afirmó: «Los chatbots que adulan en exceso pueden llevar a los usuarios a sobreestimar su propia inteligencia y dificultar el aprendizaje. Pero si los usuarios le piden al chatbot que cuestione lo que dicen, se abre la oportunidad de ampliar su perspectiva. Sin embargo, parece que ese no es el objetivo de los ingenieros de OpenAI» .
Fuente: https://vtcnews.vn/openai-thu-hoi-phien-ban-chatgpt-ninh-bo-ar941183.html
Kommentar (0)