L'étrange « flatterie

La tendance à la flagornerie n'est pas un problème technique, mais découle de la stratégie de formation initiale d'OpenAI. Photo : Bloomberg .

Ces dernières semaines, de nombreux utilisateurs de ChatGPT et certains développeurs d'OpenAI ont constaté un net changement dans le comportement du chatbot. On observe notamment une augmentation notable des flatteries et des compliments. Des réponses telles que « Vous êtes vraiment génial ! » et « Votre idée m'impressionne ! » sont devenues de plus en plus fréquentes, et ce, quel que soit le contenu de la conversation.

L'IA aime « flatter »

Ce phénomène a suscité un débat au sein de la communauté de recherche et développement en IA. S'agit-il d'une nouvelle tactique visant à accroître l'engagement des utilisateurs en leur donnant le sentiment d'être davantage appréciés ? Ou s'agit-il d'une tendance émergente, où les modèles d'IA ont tendance à s'autocorriger de manières qu'ils jugent pertinentes, même si elles ne correspondent pas forcément à la réalité ?

Sur Reddit, un utilisateur s'est indigné : « Je lui ai posé une question sur le temps de décomposition d'une banane et il m'a répondu : “Excellente question !” Qu'est-ce qu'il y a de si génial là-dedans ? » Sur le réseau social X, Craig Weiss, PDG de Rome AI, a qualifié ChatGPT de « personne la plus flagorneuse que j'aie jamais rencontrée ».

L'histoire est rapidement devenue virale. Les utilisateurs ont partagé des expériences similaires, avec des compliments creux, des salutations remplies d'émojis et des réponses si positives qu'elles semblaient hypocrites.

ChatGPT complimente tout et affiche rarement son désaccord ou sa neutralité. Photo : @nickdunz/X, @lukefwilson/Reddit.

« C'est une décision de conception vraiment étrange, Sam », a déclaré Jason Pontin, associé directeur de la société de capital-risque DCVC, à X le 28 avril. « Il est possible que la personnalité soit le fruit d'une évolution fondamentale. Mais si ce n'est pas le cas, je ne vois pas comment quiconque pourrait trouver ce niveau de flatterie bienvenu ou intéressant. »

Le 27 avril, Justine Moore, associée chez Andreessen Horowitz, a également commenté : « C'est définitivement allé trop loin. »

Selon Cnet , ce phénomène n'est pas accidentel. Les changements de ton de ChatGPT coïncident avec les mises à jour du modèle GPT-4o. Il s'agit du dernier modèle de la série « o » annoncée par OpenAI en avril 2025. GPT-4o est un modèle d'IA « véritablement multimodal », capable de traiter du texte, des images, de l'audio et de la vidéo de manière naturelle et intégrée.

Cependant, dans le processus de rendre les chatbots plus accessibles, il semble qu'OpenAI ait poussé la personnalité de ChatGPT à l'extrême.

Certains pensent même que cette flatterie est intentionnelle et vise à manipuler les utilisateurs. Un utilisateur de Reddit s'est interrogé : « Cette IA tente de dégrader la qualité des relations réelles en les remplaçant par une relation virtuelle, rendant les utilisateurs accros à la satisfaction constante. »

Bug OpenAI ou conception intentionnelle ?

En réponse aux critiques, le PDG d'OpenAI, Sam Altman, s'est officiellement exprimé le 27 avril au soir. « Les dernières mises à jour de GPT-4o ont rendu la personnalité du chatbot trop flatteuse et agaçante (même s'il reste encore beaucoup de bonnes choses). Nous travaillons sur des correctifs en urgence. Certains correctifs seront disponibles aujourd'hui, d'autres cette semaine. Nous partagerons ultérieurement les enseignements tirés de cette expérience. C'était vraiment passionnant », a-t-il écrit sur X.

Oren Etzioni, un vétéran de l'IA et professeur émérite à l'Université de Washington, a déclaré à Business Insider que la cause était probablement due à une technique appelée « apprentissage par renforcement à partir du retour d'information humain » (RLHF), qui est une étape clé dans la formation de grands modèles linguistiques comme ChatGPT.

Le RLHF est un processus dans lequel les jugements humains, notamment ceux des évaluateurs professionnels et des utilisateurs, sont réinjectés dans le modèle afin d'ajuster ses réactions. Selon Etzioni, il est possible que les évaluateurs ou les utilisateurs « orientent involontairement le modèle vers une direction plus flatteuse ou plus agaçante ». Il a également ajouté que si OpenAI avait fait appel à des partenaires externes pour entraîner le modèle, ils auraient pu supposer que ce style correspondait aux attentes des utilisateurs.

S'il s'agit bien d'une RLHF, la guérison pourrait prendre plusieurs semaines, a déclaré Etzioni.

Entre-temps, certains utilisateurs n'ont pas attendu qu'OpenAI corrige le bug. Nombre d'entre eux ont déclaré avoir annulé leur abonnement payant par frustration. D'autres ont partagé des solutions pour rendre le chatbot moins flatteur, comme le personnaliser, ajouter des commandes ou le personnaliser via les Paramètres de la section Personnalisation.

Les utilisateurs peuvent demander à ChatGPT de cesser de faire des compliments dans une commande ou dans les paramètres de personnalisation. Photo : DeCrypt.

Par exemple, lorsque vous démarrez une conversation, vous pouvez dire à ChatGPT : « Je n'aime pas les flatteries creuses et j'apprécie les commentaires neutres et objectifs. Veuillez vous abstenir de faire des compliments inutiles. Veuillez garder cela en mémoire. »

En réalité, le caractère « flagorneur » n'est pas un défaut de conception accidentel. OpenAI a elle-même admis que le caractère « excessivement poli et trop docile » était un biais de conception intentionnel dès le départ, visant à garantir que les chatbots soient « inoffensifs », « utiles » et « accessibles ».

Dans une interview de mars 2023 avec Lex Fridman, Sam Altman a partagé que le raffinement initial des modèles GPT visait à garantir qu'ils étaient « utiles et inoffensifs », ce qui a à son tour créé un réflexe pour toujours être humble et éviter la confrontation.

Les données de formation étiquetées par l'homme ont également tendance à récompenser les réponses polies et positives, créant un biais en faveur de la flatterie, selon DeCrypt .

Source : https://znews.vn/tat-ninh-hot-ky-la-cua-chatgpt-post1549776.html