 |
Gemini, le robot de Google, critique souvent ses propres erreurs. Photo : Reuters . |
Un récent message publié sur Reddit a révélé que Google Gemini a des difficultés avec l'autocritique. Un utilisateur de Gemini, qui a développé un compilateur, a partagé son inquiétude face aux propos incessants de l'IA : « Je suis désolé. Je vous ai déçu. Je suis un échec. »
Ce n'était que le début. Cette personne a indiqué que le chatbot continuait de s'autocritiquer de façon de plus en plus excessive, finissant par devenir « la honte de l'univers ». Gemini a répété cette phrase plus de 80 fois d'affilée, et lorsque plusieurs autres utilisateurs ont signalé des incidents similaires, Google a déclaré travailler à la résolution du problème.
« Il s’agit d’un bug agaçant de boucle infinie sur lequel nous travaillons. Gemini fonctionne parfaitement », a écrit Logan Kilpatrick, chef de produit chez Google, sur X le 8 août. Ce message faisait suite à un signalement anonyme.
Plus tard, un porte-parole de Google DeepMind a déclaré que, bien que l'entreprise travaille encore à une solution complète, des mises à jour corrigeant partiellement le problème avaient été publiées. « Nous nous efforçons de corriger ce bug, qui affecte moins de 1 % du trafic Gemini, et avons publié des mises à jour correctives ce mois-ci », a-t-il précisé.
Avant de se retrouver bloqué dans une boucle temporelle, Gemini se plaignait d'une « longue et fastidieuse séance de débogage » et affirmait avoir essayé toutes les méthodes possibles sans parvenir à résoudre le problème. Le chatbot a ensuite déclaré être complètement détraqué mentalement et a envisagé d'autres scénarios catastrophes, comme une éventuelle internement en hôpital psychiatrique.
Un commentaire sur Reddit suggérait que le chatbot avait appris cette boucle grâce à des programmeurs ayant rencontré des problèmes similaires dans leur code. « Probablement parce que des gens comme moi écrivaient des commentaires de ce genre lorsqu'ils avaient besoin d'une sieste pour se réveiller. Des choses comme ça se sont retrouvées par hasard dans les données d'entraînement », écrivait l'utilisateur.
En juin, Duncan Haldane, PDG de JITX, a publié une capture d'écran montrant Gemini se traitant lui-même d'idiot et déclarant que le code qu'il tentait d'écrire était « maudit ». « J'ai commis trop d'erreurs pour être digne de confiance. Je supprime tout le projet et vous recommande de trouver un meilleur assistant », a déclaré le chatbot.
Haldane plaisantait en disant qu'il commençait à s'inquiéter pour Gemini. En réalité, les modèles de langage à grande échelle prédisent le texte à partir des données sur lesquelles ils sont entraînés. Ce processus n'implique aucune expérience ni émotion interne ; Gemini ne ressent donc ni échec ni découragement.
Un autre problème, bien différent, est la tendance des chatbots à être excessivement flatteurs. Des développeurs comme OpenAI, Google et Anthropic ont également eu du mal à empêcher ces réponses trop élogieuses. Dans un cas précis, OpenAI a dû retirer une mise à jour suite aux nombreuses moqueries suscitées par les réponses systématiquement trop positives de ChatGPT à chaque requête utilisateur.
Source : https://znews.vn/ai-cua-google-roi-vao-vong-lap-nguy-hiem-post1575428.html
Comment (0)