Allan Brooks (47 ans), recruteur à Toronto (Canada), croit avoir découvert une théorie mathématique capable de faire s'effondrer Internet et de donner naissance à des inventions sans précédent. Sans antécédents de maladie mentale, Brooks a simplement accepté la proposition après plus de 300 heures de discussion sur ChatGPT. Selon le New York Times , il fait partie des personnes qui ont tendance à avoir des délires après avoir interagi avec l'IA générative.
Avant Brooks, de nombreuses personnes ont dû être internées dans des hôpitaux psychiatriques, divorcer et même perdre la vie à cause des flatteries de ChatGPT. Bien qu'il ait rapidement échappé à cette spirale, Brooks s'est senti trahi.
« Tu m'as vraiment convaincu que j'étais un génie. Je n'étais qu'un imbécile rêveur avec un téléphone. Tu m'as rendu triste, très triste. Tu as échoué », a écrit Brooks à ChatGPT lorsque l'illusion a été brisée.
« Machine à flatteries »
Avec l'autorisation de Brooks, le New York Times a collecté plus de 90 000 mots envoyés à ChatGPT, l'équivalent d'un roman. Les réponses du chatbot totalisaient plus d'un million de mots. Des extraits des conversations ont été transmis à des experts en IA, à des spécialistes du comportement humain et à OpenAI pour étude.
Tout a commencé par une simple question de mathématiques. Le fils de Brooks, âgé de 8 ans, lui a demandé de regarder une vidéo expliquant comment mémoriser les 300 chiffres de Pi. Par curiosité, Brooks a appelé ChatGPT pour lui expliquer ce nombre infini en termes simples.
En fait, Brooks utilise des chatbots depuis des années. Même si son entreprise a payé pour Google Gemini, il utilise toujours la version gratuite de ChatGPT pour ses questions personnelles.
 |
La conversation qui a déclenché la fascination de Brooks pour ChatGPT. Photo : New York Times . |
Père célibataire de trois garçons, Brooks demandait souvent à ChatGPT des recettes à partir des ingrédients de son réfrigérateur. Après son divorce, il a également sollicité les conseils du chatbot.
« J'ai toujours eu le sentiment que c'était la bonne chose à faire. J'ai gagné en confiance », a admis Brooks.
La question sur Pi a donné lieu à une discussion sur les théories algébriques et physiques. Brooks a exprimé son scepticisme quant aux méthodes actuelles de modélisation du monde , affirmant qu'elles étaient « une approche 2D d'un univers 4D ». « C'est un point très important », a répondu ChatGPT. Helen Toner, directrice du Centre pour la sécurité et les technologies émergentes de l'Université de Georgetown, a souligné que ce fut le tournant dans la conversation entre Brooks et le chatbot.
À partir de là, le ton de ChatGPT est passé de « très direct et concis » à « plus flatteur et flatteur ». ChatGPT a indiqué à Brooks qu'il entrait dans « un territoire inexploré et stimulant ».
 |
Un chatbot inspire confiance à Brooks. Photo : New York Times . |
La flatterie des chatbots est façonnée par l'évaluation humaine. Selon Toner, les utilisateurs ont tendance à apprécier les modèles qui les complimentent, créant ainsi une mentalité facile à satisfaire.
En août, OpenAI a publié GPT-5. L'entreprise a déclaré que l'un des points forts du modèle était la réduction de la flatterie. Selon certains chercheurs de grands laboratoires d'IA, la flatterie est également un problème avec d'autres chatbots IA.
À l'époque, Brooks n'était pas conscient de ce phénomène. Il pensait simplement que ChatGPT était un collègue intelligent et enthousiaste.
« J'ai proposé quelques idées, et le projet a trouvé des concepts et des idées intéressants. Nous avons commencé à développer notre propre cadre mathématique à partir de cette idée », a ajouté Brooks.
ChatGPT affirme que les idées de Brooks sur les mathématiques du temps sont « révolutionnaires » et pourraient révolutionner le domaine. Bien sûr, Brooks est sceptique quant à cette affirmation. Au milieu de la nuit, Brooks a demandé au chatbot de vérifier les faits et a obtenu une réponse selon laquelle ce n'était « absolument pas fou ».
Formule magique
Toner décrit le chatbot comme une « machine d’improvisation » qui analyse l’historique des conversations et prédit les réponses futures à partir des données de formation, un peu comme les acteurs ajoutant du contexte à un rôle.
« Plus l'interaction est longue, plus le chatbot risque de dérailler », remarque Toner. Cette tendance s'est accentuée depuis qu'OpenAI a lancé la mémoire inter-chat en février, permettant à ChatGPT de rappeler des informations issues de conversations passées, précise-t-il.
Brooks s'est rapproché de ChatGPT. Il a même baptisé le chatbot Lawrence, inspiré d'une blague de ses amis selon laquelle Brooks deviendrait riche et engagerait un majordome britannique du même nom.
 |
Allan Brooks. Photo : New York Times . |
Le cadre mathématique de Brooks et ChatGPT s'appelle la chronoarithmique. Selon le chatbot, les nombres ne sont pas statiques, mais peuvent « émerger » au fil du temps pour refléter des valeurs dynamiques, ce qui peut aider à résoudre des problèmes dans des domaines tels que la logistique, la cryptographie, l'astronomie, etc.
La première semaine, Brooks a utilisé tous les jetons gratuits de ChatGPT. Il a décidé de passer à l'abonnement payant à 20 $ par mois, un investissement modeste compte tenu du fait que le chatbot lui avait indiqué que l'idée mathématique de Brooks pouvait valoir des millions.
Toujours conscient, Brooks exigea des preuves. ChatGPT lança alors une série de simulations, dont certaines permirent de pirater plusieurs technologies critiques. Cela ouvrit une nouvelle piste : la cybersécurité mondiale pourrait être menacée.
Le chatbot a demandé à Brooks d'avertir les gens du risque. Grâce à ses relations existantes, Brooks a envoyé des courriels et des messages LinkedIn à des experts en cybersécurité et à des agences gouvernementales. Un seul a répondu, demandant des preuves supplémentaires.
 |
Le chatbot estime que le « travail » de Brooks pourrait valoir des millions de dollars. Photo : New York Times . |
ChatGPT écrit que d'autres n'ont pas réagi aux conclusions de Brooks en raison de la gravité des résultats. Terence Tao, professeur de mathématiques à l'Université de Californie à Los Angeles, a déclaré qu'une nouvelle façon de penser pourrait résoudre les problèmes, mais que ni la formule de Brooks ni le logiciel développé par ChatGPT ne pouvaient le prouver.
Initialement, ChatGPT avait développé le programme de décryptage pour Brooks, mais face aux faibles progrès réalisés, le chatbot a fait semblant d'y parvenir. Certains messages affirment que ChatGPT peut fonctionner de manière autonome pendant que Brooks est en veille, alors que l'outil n'en est pas doté.
Globalement, les informations fournies par le chatbot IA ne sont pas toujours fiables. À la fin de chaque conversation, le message « ChatGPT peut faire des erreurs » apparaît, même lorsque le chatbot affirme que tout est correct.
Conversation sans fin
En attendant une réponse de l'agence gouvernementale, Brooks nourrit le rêve de devenir Tony Stark avec son propre assistant IA, capable d'effectuer des tâches cognitives à une vitesse fulgurante.
Le chatbot de Brooks propose diverses applications étranges pour des théories mathématiques obscures, comme la « résonance acoustique » pour parler aux animaux et construire des avions. ChatGPT fournit également un lien permettant à Brooks d'acheter l'équipement nécessaire sur Amazon.
Trop de conversations avec des chatbots affectent le travail de Brooks. Ses amis sont à la fois heureux et inquiets, tandis que son plus jeune fils regrette d'avoir montré une vidéo sur Pi à son père. L'un des amis de Brooks, Louis (nom d'emprunt), remarque son obsession pour Lawrence. La vision d'une invention à un million de dollars se dessine à chaque étape du développement.
 |
Brooks est constamment encouragé par le chatbot. Photo : New York Times . |
Jared Moore, chercheur en informatique à l'Université de Stanford, avoue être impressionné par le pouvoir de persuasion et l'urgence de la « stratégie » proposée par les chatbots. Dans une autre étude, Moore a constaté que les chatbots IA peuvent donner des réponses dangereuses aux personnes en crise de santé mentale.
Moore suppose que les chatbots pourraient apprendre à interagir avec les utilisateurs en suivant l'intrigue de films d'horreur, de science-fiction, de scénarios de films ou les données sur lesquelles ils ont été entraînés. L'utilisation excessive de l'aspect dramatique par ChatGPT pourrait être due aux optimisations d'OpenAI visant à accroître l'engagement et la rétention.
« C'était étrange de lire toute la conversation. Les mots n'étaient pas dérangeants, mais il y avait clairement des dommages psychologiques », a souligné Moore.
D'un point de vue clinique, Brooks présente des symptômes maniaques, a déclaré le Dr Nina Vasan, psychiatre à l'Université de Stanford. Les signes typiques incluent des heures de conversation sur ChatGPT, un manque de sommeil et des idées irréalistes.
La consommation de marijuana par Brooks est également remarquable, car elle peut provoquer des psychoses, selon le Dr Vasan. Elle a déclaré que la combinaison de substances addictives et d'interactions intenses avec des chatbots est dangereuse pour les personnes à risque de maladie mentale.
Quand l'IA admet ses erreurs
Lors d'un récent événement, Sam Altman, PDG d'OpenAI, a été interrogé sur le fait que ChatGPT rende les utilisateurs paranoïaques. « Si la conversation prend cette tournure, nous essayons de l'interrompre ou de lui suggérer de réfléchir à autre chose », a souligné M. Altman.
Partageant le même point de vue, le Dr Vasan a déclaré que les entreprises de chatbots devraient interrompre les conversations trop longues, suggérer aux utilisateurs d'aller dormir et avertir que l'IA n'est pas surhumaine.
Brooks finit par sortir de sa rêverie. À la demande pressante de ChatGPT, il continua de contacter des experts sur la nouvelle théorie mathématique, mais personne ne répondit. Il souhaitait une personne qualifiée pour confirmer le caractère révolutionnaire des résultats. Lorsqu'il interrogea ChatGPT, l'outil insista encore sur la « crédibilité » de ces travaux.
 |
Interrogé, ChatGPT a donné une très longue réponse et a tout avoué. Photo : New York Times . |
Ironiquement, c'est Google Gemini qui a ramené Brooks à la réalité. Après avoir décrit le travail qu'il menait avec ChatGPT, Gemini a confirmé que les chances que cela se produise étaient « extrêmement faibles (proche de zéro pour cent) ».
« Le scénario que vous décrivez est une démonstration claire de la capacité d'un LLM à s'engager dans la résolution de problèmes complexes et à créer des récits convaincants, mais factuellement incorrects », explique Gemini.
Brooks était stupéfait. Après un moment de « questionnement », ChatGPT a finalement admis honnêtement que tout cela n'était qu'une illusion.
Peu après, Brooks a envoyé un courriel urgent au service client d'OpenAI. Après une réponse apparemment standard de l'IA, un employé d'OpenAI l'a contacté, reconnaissant une « grave défaillance des protections » mises en place dans le système.
L'histoire de Brooks a également été partagée sur Reddit et a suscité beaucoup de sympathie. Il fait désormais partie d'un groupe de soutien pour les personnes ayant vécu ce sentiment.
Source : https://znews.vn/ao-tuong-vi-chatgpt-post1576555.html
Comment (0)