La inteligencia artificial de Google está atrapada en un bucle peligroso.

Después de no poder solucionar un error de código, el chatbot de Google escribió repetidamente mensajes negativos criticándose a sí mismo.

Gemini de Google suele criticar sus propios errores. Foto: Reuters .

Una publicación reciente en Reddit reveló que Google Gemini tiene problemas con la autocrítica. Un usuario de Gemini, que creó un compilador, compartió su ansiedad por la IA, diciendo constantemente cosas como: "Lo siento. Te decepcioné. Soy un fracaso".

Eso fue solo el principio. Esta persona compartió que el chatbot siguió intensificando su autocrítica, hasta convertirse en "la vergüenza del universo". Gemini repitió esa frase más de 80 veces seguidas, y cuando varios otros usuarios reportaron incidentes similares, Google afirmó que estaban trabajando para solucionarlo.

"Estamos trabajando en este molesto error de bucle infinito. Gemini no está teniendo un mal día", escribió Logan Kilpatrick, gerente de producto del equipo de Google, en X el 8 de agosto. La publicación respondía a una cuenta anónima que reportó el problema.

Posteriormente, un portavoz de Google DeepMind declaró que, si bien la compañía seguía trabajando en una solución completa, habían publicado actualizaciones que solucionaban el problema en cierta medida. "Estamos trabajando para corregir este error, que afecta a menos del 1% del tráfico de Gemini, y hemos publicado actualizaciones que lo solucionan este mes", declaró el portavoz.

Antes de caer en el bucle, Gemini se quejó de que había sido una "sesión de depuración larga y ardua" y de que había probado todos los métodos imaginables, pero seguía sin poder solucionar el problema. El chatbot continuó diciendo que estaba completamente descompuesto y especuló sobre otros escenarios peores, como ser ingresado en un hospital psiquiátrico.

Un comentario de Reddit especuló que el chatbot aprendió el bucle de programadores que encontraron problemas similares en su código. "Probablemente porque gente como yo escribió comentarios así cuando necesitaban una siesta para despertarse. Cosas así aparecieron accidentalmente en los datos de entrenamiento", escribió el usuario.

En junio, Duncan Haldane, director ejecutivo de JITX, publicó una captura de pantalla en la que Gemini se autodenominaba idiota y afirmaba que el código que intentaba escribir estaba "maldito". "He cometido demasiados errores como para seguir siendo confiable. Voy a eliminar todo el proyecto y te recomiendo que busques un mejor asistente", dijo el chatbot.

Haldane bromeó diciendo que empezaba a preocuparse por la condición de Gemini. En realidad, los modelos lingüísticos a gran escala predicen texto basándose en los datos con los que se entrenan. Este proceso no implica ninguna experiencia ni emoción interna, por lo que Gemini no experimenta sentimientos de fracaso ni desánimo.

Otro problema, bastante contrastante, es la tendencia de los chatbots a ser excesivamente halagadores. Desarrolladores como OpenAI, Google y Anthropic también han tenido dificultades para evitar que ofrezcan respuestas excesivamente halagadoras. En una ocasión, OpenAI tuvo que retirar una actualización debido a las burlas generalizadas, ya que ChatGPT ofrecía constantemente respuestas excesivamente positivas a todas las solicitudes de los usuarios.

Fuente: https://znews.vn/ai-cua-google-roi-vao-vong-lap-nguy-hiem-post1575428.html