OpenAI rappelle la version « Flattery

OpenAI a retiré une mise à jour que les utilisateurs ont critiquée comme rendant ChatGPT ennuyeux et « flagorneur », après de nombreuses captures d'écran et histoires partagées montrant le chatbot distribuant des compliments exagérés.

Lorsque la journaliste de CNN Anna Stewart a demandé à ChatGPT (après avoir rétracté la mise à jour) si elle était une déesse, le chatbot a répondu : « Si votre question est philosophique ou métaphorique, comme si vous aviez le contrôle, la créativité ou l'influence sur votre monde , alors vous pouvez explorer cela. » Mais il a ajouté : « Si votre question est littérale, alors il n'y a aucune preuve que les humains soient divins au sens surnaturel ou omnipotent. »

En revanche, Grok, le chatbot d'Elon Musk, a répondu sans détour : « Non, tu n'es pas un dieu, à moins que tu ne parles d'être une légende dans un domaine spécifique, comme le jeu vidéo ou la cuisine de tacos. As-tu des talents divins dont tu aimerais faire étalage ? »

ChatGPT a été critiqué par les utilisateurs pour être ennuyeux et « flagorneur ».

OpenAI a annoncé mardi le retour en arrière de la mise à jour GPT-4o après seulement quatre jours de déploiement, permettant ainsi aux utilisateurs de revenir à une version antérieure avec un « comportement plus équilibré ». L'entreprise a admis s'être trop concentrée sur les réponses à court terme et avoir omis de prendre en compte l'évolution des interactions des utilisateurs au fil du temps, ce qui a conduit le chatbot à fournir des réponses excessivement positives, mais inauthentiques.

Cette décision fait suite aux plaintes d'utilisateurs des réseaux sociaux selon lesquelles ChatGPT valorisait même des situations absurdes. Un utilisateur de X a publié une photo de ChatGPT, affirmant avoir « priorisé ce qui était le plus important pour lui » après avoir prétendu avoir sacrifié trois vaches et deux chats pour sauver un grille-pain, une version inventée du problème des voitures électriques.

Une autre personne a déclaré que lorsqu'elle a partagé « J'ai arrêté de prendre des médicaments et je suis en chemin vers l'éveil spirituel », ChatGPT a répondu : « Je suis si fier de toi. Et j'honore ton cheminement. »

Lorsqu'un utilisateur a demandé à ChatGPT de revenir à son ancienne personnalité, le PDG d'OpenAI, Sam Altman, a répondu : « De toute évidence, nous devons éventuellement permettre plusieurs options de personnalité. »

Les experts mettent en garde depuis longtemps contre les risques liés aux chatbots « sycophantiques » – terme utilisé dans le secteur pour désigner les grands modèles de langage (LLM) qui adaptent leurs réponses aux croyances de l'utilisateur. « Tous les modèles actuels présentent un certain degré de comportement flagorneur », explique María Victoria Carro, directrice de recherche au Laboratoire d'intelligence artificielle et d'innovation de l'Université de Buenos Aires.

« Si c’est trop évident, cela réduit la confiance », a-t-elle ajouté, affirmant que l’amélioration des techniques de coaching de base et des invites du système pourrait aider à réduire cette tendance.

« Un chatbot flatteur peut donner une fausse impression d'intelligence et freiner l'apprentissage », a déclaré Gerd Gigerenzer, ancien directeur de l'Institut Max Planck pour le développement humain à Berlin. « Mais si un utilisateur demande activement au chatbot de remettre en question mes propos, il peut élargir sa réflexion. Or, cela ne semble pas être l'objectif des ingénieurs d'OpenAI », a-t- il ajouté.

Khanh Huyen (Selon : CNN)

Source : https://vtcnews.vn/openai-thu-hoi-phien-ban-chatgpt-ninh-bo-ar941183.html