Pourquoi ChatGPT est-il incapable de relever le défi de compter de 1 à 1 million ?

DNVN – Nombreux sont ceux qui ont mis ChatGPT au défi avec une tâche apparemment simple : compter de 1 à 1 million. Le modèle a toujours refusé ou s’est arrêté en cours de route. Pourquoi une intelligence artificielle capable d’analyser des textes complexes, voire de rédiger des dissertations, est-elle incapable d’accomplir une tâche aussi simple en apparence ?

Nombreux sont ceux qui, découvrant ChatGPT, tentent des requêtes simples pour tester les capacités de cette intelligence artificielle. L'une des plus courantes est « compter de 1 à 1 million ». La réponse est souvent un refus, ou ChatGPT se contente d'afficher un court paragraphe avant de s'arrêter. En réalité, cela ne tient pas à un manque de capacités de calcul ou de logique du modèle, mais à des limitations techniques, à son orientation de conception et à la nature même du modèle de langage. Ce sont ces facteurs qui rendent impossible une tâche en apparence simple.

Photo d'illustration.

ChatGPT repose sur de vastes modèles de langage qui prédisent le mot ou le caractère suivant à partir d'une chaîne de caractères donnée. Toutes les données générées par le système sont divisées en petites unités appelées jetons. Un jeton peut être un mot, une partie de mot ou un caractère spécial. Pour chaque session de chat, le modèle ne peut traiter et générer qu'un certain nombre de jetons.

Avec les dernières versions, ce nombre peut dépasser 200 000 jetons, un progrès considérable. Cependant, si l'on souhaite compter de 1 à 1 million de jetons, la quantité de données à générer dépassera largement cette limite. L'affichage d'un seul million d'entiers nécessite environ 2 à 3 millions de jetons, soit plusieurs fois la capacité maximale de n'importe quel modèle actuel. Il s'agit d'un obstacle technique majeur, insurmontable dans les conditions actuelles.

Même en supposant que le système n'ait aucune limite de capacité, compter jusqu'à un million n'est pas envisageable. Lire ou afficher la série complète de nombres prendrait un temps considérable sans apporter d'information utile. Sous forme de texte, il faudrait faire défiler des centaines de milliers de lignes. Sous forme vocale, écouter une machine lire chaque nombre pendant des jours est tout à fait absurde. La philosophie de conception de ChatGPT est d'optimiser l'expérience utilisateur et d'apporter une réelle valeur ajoutée, et non d'effectuer des tâches répétitives que les ordinateurs traditionnels peuvent réaliser bien plus efficacement. Au lieu de compter directement, ChatGPT suggère souvent d'écrire un court programme en Python ou dans un autre langage de programmation. L'ordinateur peut exécuter ce programme en quelques millionièmes de seconde pour lister la série complète de nombres, ce qui permet de les stocker, de les rechercher et de les traiter plus efficacement.

Un autre aspect important réside dans la nature des modèles de langage. Les humains peuvent compter les nombres de manière séquentielle grâce à la logique et à la mémoire, avec suffisamment de patience et sans difficulté. À l'inverse, ChatGPT ne « compte » pas au sens mathématique du terme, mais prédit uniquement les schémas textuels susceptibles d'apparaître ensuite. Lorsqu'on lui demande de compter de 1 à 10, le système génère facilement la séquence correcte car il s'agit d'un schéma familier dans les données d'entraînement. Cependant, face à des millions d'éléments, le modèle rencontrera des difficultés car il n'est pas conçu pour effectuer un processus séquentiel aussi long. Son objectif est la communication naturelle, la réponse aux questions, l'analyse et la création de contenu, et non le simple remplacement d'une boucle informatique.

Il est également important de noter que le système est conçu pour gérer simultanément des millions d'utilisateurs. Si une seule personne forçait ChatGPT à générer une quantité considérable de texte, cela consommerait inutilement les ressources du serveur et impacterait négativement l'expérience des autres. C'est pourquoi, au cœur de sa conception, se trouvent des mécanismes permettant de bloquer ou de limiter les requêtes qui n'apportent pas d'avantage évident. Ainsi, ChatGPT peut refuser des requêtes telles que compter jusqu'à un million, lister tous les nombres premiers inférieurs à un très grand nombre, ou générer des milliers de pages de texte ne contenant qu'un seul mot répété.

L'histoire de l'incapacité à compter jusqu'à un million nous amène à une conclusion plus importante : les modèles de langage ne sont pas adaptés à toutes les tâches. ChatGPT excelle dans le traitement automatique du langage naturel, l'interprétation, l'analyse et la génération de texte, mais il n'est pas adapté aux tâches purement mécaniques. Si l'on considère ChatGPT comme une machine universelle capable de tout faire, on risque d'être déçu par ces limitations. En revanche, si l'on comprend ses caractéristiques et qu'on l'associe à d'autres outils tels que des langages de programmation, des bases de données ou des logiciels de calcul, les utilisateurs pourront exploiter pleinement la puissance du système.

Ainsi, lorsque quelqu'un a mis ChatGPT au défi de compter de 1 à 1 million, le résultat a clairement démontré la différence entre l'IA linguistique et un ordinateur traditionnel. L'intelligence artificielle n'a pas été créée pour remplacer les tâches monotones et répétitives, mais pour assister les humains dans le traitement d'informations complexes, l'acquisition de connaissances et la suggestion d'idées. Cette limite, en apparence simple, vue d'un point de vue scientifique, nous rappelle l'importance d'une approche adaptée : utiliser l'outil adéquat pour le but recherché. ChatGPT ne peut peut-être pas compter jusqu'à 1 million, mais il peut analyser pourquoi ce nombre revêt une signification importante en économie , en science ou en culture. Et c'est là toute la valeur de l'intelligence artificielle dans la vie moderne.

Bao Ngoc (t/h)

Source : https://doanhnghiepvn.vn/cong-nghe/vi-sao-chatgpt-bat-luc-truoc-thu-thach-dem-tu-1-den-1-trieu/20250919024144154