Nouvelles recherches : l’IA ne « raisonne » pas comme les humains

Les programmes d'intelligence artificielle (IA) ont obtenu des résultats impressionnants, mais de nouvelles recherches suggèrent qu'il ne faut pas surestimer l'affirmation selon laquelle l'IA peut raisonner comme les humains.

Les programmes d'intelligence artificielle ont réalisé de nombreuses avancées ces dernières années - Photo : REUTERS

Nous ne pouvons pas observer l'intégralité du processus, depuis les données d'entrée jusqu'à la sortie des grands modèles de langage (LLM).

Pour faciliter la compréhension, les scientifiques ont utilisé des termes courants comme « raisonnement » pour décrire le fonctionnement de ces programmes. Ils affirment également que ces programmes peuvent « penser », « raisonner » et « comprendre » de la même manière que les humains.

Exagérer les capacités de l'IA.

D'après ZDNET, le 6 septembre, au cours des deux dernières années, de nombreux dirigeants du secteur de l'IA ont eu recours à un langage exagéré pour vanter des réalisations techniques simples.

En septembre 2024, OpenAI a annoncé que le modèle de raisonnement o1 « utilise une chaîne d'inférences pour résoudre les problèmes, similaire à la façon dont les humains réfléchissent longuement lorsqu'ils sont confrontés à des questions difficiles ».

Cependant, les spécialistes de l'IA ne sont pas d'accord. Ils affirment que l'IA ne possède pas une intelligence comparable à celle de l'humain.

Une étude basée sur la base de données arXiv par une équipe d'auteurs de l'Arizona State University (États-Unis) a testé la capacité de raisonnement de l'IA à travers une expérience simple.

Les résultats suggèrent que « le référencement par séquences de pensée est une illusion fragile », non pas un véritable mécanisme logique, mais simplement une forme sophistiquée de correspondance de modèles.

Le terme « chaîne de pensée » (CoT) permet à l’IA non seulement de trouver une réponse finale, mais aussi de présenter chaque étape du raisonnement logique, comme dans les modèles GPT-o1 ou DeepSeek V1.

Illustration du modèle de langage GPT-2 d'OpenAI - Photo : ECHOCRAFTAI

Découvrez ce que fait réellement l'IA.

L'équipe de recherche a indiqué que des analyses à grande échelle ont montré que le LLM tend à s'appuyer davantage sur la sémantique et les indices superficiels que sur les processus de raisonnement logique.

« Les LLM construisent des séquences logiques superficielles basées sur des associations d'entrées apprises, et échouent souvent sur des tâches qui s'écartent des méthodes de raisonnement conventionnelles ou des schémas familiers », a expliqué l'équipe.

Pour tester l'hypothèse selon laquelle LLM ne faisait que correspondre des modèles et ne tirait pas réellement de conclusions, l'équipe a entraîné GPT-2, un modèle open-source publié par OpenAI en 2019.

Le modèle a d'abord été entraîné sur des tâches très simples portant sur les 26 lettres de l'alphabet anglais, comme inverser certaines lettres, par exemple transformer « APPLE » en « EAPPL ». L'équipe a ensuite modifié la tâche et a demandé à GPT-2 de la prendre en charge.

Les résultats ont montré que pour les tâches non incluses dans les données d'entraînement, GPT-2 ne pouvait pas les résoudre avec précision en utilisant CoT.

Le modèle tente plutôt d'appliquer au plus près les tâches apprises. Par conséquent, son « raisonnement » peut sembler logique, mais les résultats sont souvent erronés.

Le groupe a conclu qu'il ne fallait pas trop se fier aux réponses de LLM ni leur faire aveuglément confiance, car elles peuvent produire des « déclarations absurdes mais très convaincantes ».

Ils ont également insisté sur la nécessité de comprendre la véritable nature de l'IA, d'éviter le sensationnalisme et de cesser de promouvoir l'idée que l'IA a la capacité de raisonner comme les humains.

Revenons au sujet.

ANH JEU

Source : https://tuoitre.vn/nghien-cuu-moi-ai-khong-suy-luan-nhu-con-nguoi-20250907152120294.htm