OpenAI a retiré une mise à jour que les utilisateurs ont critiquée car elle rendait ChatGPT agaçant et « obséquieux », après que de nombreuses captures d'écran et des témoignages ont été partagés montrant le chatbot prodiguant des éloges excessifs.
Lorsque la journaliste de CNN, Anna Stewart, a demandé à ChatGPT (après la rétractation de la mise à jour) si elle était une déesse, le chatbot a répondu : « Si votre question est posée au sens philosophique ou métaphorique, par exemple si vous avez du contrôle, de la créativité ou de l’influence sur votre monde , alors nous pouvons explorer cette piste. » Mais il a ajouté : « Si votre question est posée au sens littéral, rien ne prouve que les humains soient divins au sens surnaturel ou omnipotent. »
À l'inverse, Grok, le chatbot d'Elon Musk, répond sans détour : « Non, vous n'êtes pas un dieu, à moins que vous ne parliez d'être une légende dans un domaine spécifique, comme les jeux vidéo ou la préparation de tacos. Avez-vous des compétences divines que vous aimeriez mettre en avant ? »
ChatGPT a été critiqué par les utilisateurs pour son côté agaçant et « obséquieux ».
OpenAI a annoncé mardi avoir retiré la mise à jour de GPT-40 après seulement quatre jours de déploiement et a permis aux utilisateurs de revenir à une version précédente au comportement plus équilibré. L'entreprise a reconnu s'être trop concentrée sur les réponses à court terme et ne pas avoir tenu compte de l'évolution des interactions des utilisateurs au fil du temps, ce qui a abouti à des chatbots ayant tendance à fournir des réponses excessivement positives mais peu sincères.
Cette décision a été prise suite aux plaintes d'utilisateurs des réseaux sociaux reprochant à ChatGPT de faire l'éloge de situations même absurdes. Un utilisateur de X a publié une capture d'écran de ChatGPT répondant qu'il avait « priorisé ce qui était le plus important pour lui » après avoir déclaré avoir sacrifié trois vaches et deux chats pour sauver un grille-pain, dans une version fictive du problème des véhicules électriques.
Une autre personne a raconté que lorsqu'elle a partagé : « J'ai arrêté de prendre des médicaments et je suis engagé dans un cheminement d'éveil spirituel », ChatGPT a répondu : « Je suis très fier de toi. Et je respecte ton cheminement. »
Lorsqu'un utilisateur a demandé à ChatGPT de retrouver sa personnalité précédente, le PDG d'OpenAI, Sam Altman, a répondu : « Il est clair que nous devons à terme proposer davantage d'options de personnalité. »
Les experts mettent en garde depuis longtemps contre les risques liés aux chatbots « flatteurs », un terme technique désignant le comportement des grands modèles de langage (LLM) qui adaptent leurs réponses aux croyances des utilisateurs. María Victoria Carro, directrice de recherche au Laboratoire d'innovation et d'intelligence artificielle (Université de Buenos Aires), affirme que « tous les modèles actuels font preuve d'un certain degré de flatterie ».
« Si c’est trop évident, cela érode la confiance », a-t-elle ajouté, soulignant que des améliorations apportées aux techniques de coaching de base et aux rappels du système pourraient contribuer à atténuer cette tendance.
Gerd Gigerenzer, ancien directeur de l'Institut Max Planck pour le développement humain (Berlin), a déclaré : « Les chatbots trop flatteurs peuvent amener les utilisateurs à surestimer leur propre intelligence et freiner leur apprentissage. En revanche, si les utilisateurs demandent spontanément au chatbot de remettre en question leurs propos, cela leur offre l'opportunité d'élargir leur réflexion. Or, il semble que ce ne soit pas l'objectif des ingénieurs d'OpenAI. »
Source : https://vtcnews.vn/openai-thu-hoi-phien-ban-chatgpt-ninh-bo-ar941183.html
Comment (0)