Les capacités de raisonnement de l'IA se détériorent face à des problèmes complexes.

VHO – Une nouvelle étude d’Apple montre que les modèles d’IA avancés peuvent « s’effondrer complètement » face à des problèmes complexes, ce qui soulève de sérieuses questions quant à la capacité d’atteindre l’intelligence artificielle générale – le stade où les machines pensent comme les humains.

De nouvelles recherches menées par Apple indiquent que le raisonnement de l'IA devient moins efficace face à des problèmes complexes.

Plus le modèle est fort, plus la « réflexion » est faible ?

Dans un rapport récemment publié, des chercheurs d'Apple ont évalué les performances des Large Reasoning Models (LRM) dans la gestion de problèmes logiques de difficulté croissante, tels que la tour de Hanoï ou le problème de la traversée de la rivière .

Les résultats ont été choquants : face à des problèmes très complexes, la précision des modèles d’IA avancés s’est non seulement détériorée, mais s’est « complètement effondrée ».

Ce qui est encore plus inquiétant, c'est qu'avant que les performances ne chutent brutalement, les modèles ont commencé à... réduire leur effort de raisonnement, un comportement contraire à l'intuition, car un problème difficile devrait nécessiter davantage de réflexion.

Dans de nombreux cas, même avec l'algorithme adéquat, les modèles ne parviennent toujours pas à trouver de solution. Ceci révèle de profondes limitations quant à leur capacité d'adaptation et d'application des règles dans de nouveaux environnements.

Le défi de la « théorie générale »

En réaction à ces recherches, le chercheur américain Gary Marcus, l'une des voix sceptiques quant aux véritables capacités de l'IA, a qualifié les conclusions d'Apple de « tout à fait dévastatrices ».

Dans sa newsletter personnelle Substack, il a déclaré : « Quiconque pense que les grands modèles de langage (LLM) sont un chemin direct vers l'AGI se trompe lui-même. »

Partageant cet avis, Andrew Rogoyski, expert à l'Institut d'IA centrée sur l'humain (Université de Surrey, Royaume-Uni), estime que cette découverte indique la possibilité que l'industrie technologique se dirige vers une impasse : « Lorsque les modèles ne fonctionnent bien qu'avec des problèmes simples et de difficulté moyenne, mais échouent complètement face à une difficulté croissante, il est clair que l'approche actuelle présente un problème. »

Un point particulier souligné par Apple est le manque de capacité de « raisonnement général », c’est-à-dire la capacité d’étendre la compréhension d’une situation spécifique à des situations similaires.

Lorsque les connaissances ne peuvent être transmises de la manière dont les humains le font habituellement, les modèles actuels tombent facilement dans un état d’« apprentissage par cœur » : forts en matière de schémas répétitifs, mais faibles en matière de pensée logique ou de déduction.

De plus, des recherches ont montré que les modèles de raisonnement à grande échelle consomment des ressources informatiques en répétant les étapes correctes pour les problèmes simples, mais en choisissant d'emblée la mauvaise approche pour les problèmes légèrement plus complexes.

Le rapport a testé plusieurs modèles de pointe, dont o3 d'OpenAI, Gemini Thinking de Google, Claude 3.7 Sonnet-Thinking et DeepSeek-R1. Anthropic, Google et DeepSeek n'ont pas encore réagi, tandis qu'OpenAI a refusé de commenter.

Les recherches d'Apple ne remettent pas en cause les performances de l'IA dans les domaines du langage, de l'imagerie ou du big data. Elles mettent toutefois en lumière un point aveugle souvent négligé : la capacité à raisonner véritablement, qui est pourtant essentielle à l'avènement d'une intelligence authentique.

Source : https://baovanhoa.vn/nhip-song-so/ai-suy-luan-kem-dan-khi-gap-bai-toan-phuc-tap-141602.html