Le cofondateur d'OpenAI révèle ce qu'est la super IA

Andrej Karpathy, co-fondateur d'OpenAI. Photo : Dwarkesh Patel .

Alors que de nombreux acteurs du secteur technologique estiment que l'intelligence artificielle générale (IAG) est sur le point de devenir réalité, Andrej Karpathy, scientifique de renom, ancien directeur de l'IA chez Tesla et cofondateur d'OpenAI, adopte un point de vue différent. Il estime que la route vers l'IAG est encore longue et qu'il faudra au moins une décennie supplémentaire pour surmonter les défis fondamentaux.

« Les problèmes sont résolubles, même s'ils sont difficiles à résoudre pour le moment. Je pense qu'il faudra environ dix ans pour surmonter toutes les limitations actuelles », a déclaré Karpathy lors d'une récente conversation.

Une leçon précieuse

Selon M. Karpathy, le développement rapide des grands modèles de langage (LLM) ces dernières années a conduit beaucoup à croire que l'ère des « agents IA », des systèmes dotés de capacités autonomes, était arrivée. Cependant, l'ancien directeur de l'IA chez Tesla ne partage pas cet avis. Il estime que 2025 n'est pas « l'année de l'agent IA ».

Il explique que des outils comme Claude et Codex montrent le potentiel d’assister les humains dans de nombreuses tâches, mais ils sont encore loin d’être considérés comme des « collègues numériques ».

« Actuellement, les agents d'IA ne sont pas assez intelligents, ils n'utilisent pas naturellement les ordinateurs et n'ont pas la capacité d'apprendre en continu. On ne peut pas leur dire quelque chose et s'attendre à ce qu'ils s'en souviennent. Leurs capacités cognitives sont déficientes, ce qui empêche les modèles de fonctionner pleinement », a déclaré Karpathy.

Karpathy a été directeur de l'IA chez Tesla. Photo : Teslarati .

Au cours de ses 15 années de carrière dans l'IA, Karpathy affirme avoir été témoin de nombreux tournants qui ont transformé l'ensemble du secteur. Il a étudié et travaillé avec Geoffrey Hinton, le père des réseaux neuronaux, à l'Université de Toronto, à une époque où l'apprentissage profond était encore un domaine d'étude relativement méconnu. Le succès d'AlexNet en 2012 a marqué le début d'une nouvelle ère pour l'IA, faisant des réseaux neuronaux le fondement de nombreuses applications futures.

Après la vague de l'apprentissage profond, l'industrie de l'IA s'est progressivement orientée vers la création d'agents capables d'observer, d'agir et d'apprendre de leur environnement. L'une des premières expériences a été l'apprentissage par renforcement profond sur un jeu Atari vers 2013. Bien que considérée comme révolutionnaire à l'époque, il estime que cette orientation était « une erreur de timing ».

Il est compréhensible que les gens souhaitent expérimenter dans un environnement de jeu, où il est facile de simuler et de mesurer. Mais cela ne reflète pas la réalité . Si vous laissez l'IA taper au clavier, cliquer à la souris et attendre une récompense, elle n'apprendra rien de significatif », a-t-il déclaré.

Ce n'est pas le bon moment

Chez OpenAI, Karpathy a travaillé sur le projet Universe, un projet visant à créer un agent contrôlé par souris et clavier capable d'effectuer des tâches concrètes. Il admet cependant que le projet était « trop précoce ».

« Nous n’avons pas encore la puissance des réseaux neuronaux et nous ne disposons pas de la grande plateforme de modélisation du langage dont nous disposons aujourd’hui », a déclaré Karpathy.

Karpathy estime qu'il faudra une décennie pour développer l'IAG. Photo : Vidhya .

Le scientifique a ajouté que pour développer un agent véritablement intelligent, les modèles doivent posséder des bases solides en représentation du langage et en cognition. Karpathy a comparé le processus de pré-apprentissage sur les données Internet à une forme de « mauvaise évolution ». Or, ce processus permet à l'IA d'accumuler une quantité considérable de connaissances et de capacités de raisonnement de base.

Il prévient toutefois qu'une trop grande dépendance aux connaissances existantes pourrait rendre l'IA moins créative. « Nous devrions peut-être trouver un moyen de supprimer une partie des connaissances et de conserver ce que nous appelons le noyau cognitif, la partie qui représente la capacité à penser, à résoudre des problèmes et à élaborer des stratégies », a déclaré Karpathy.

L'IA entre donc dans une phase de transition. La combinaison de la puissance des modèles de langage et de la capacité d'action des agents ouvrira un nouveau chapitre pour la technologie. Cependant, selon Karpathy, ce chemin ne se compte pas en années.

Source : https://znews.vn/dong-sang-lap-openai-agi-van-con-cach-xa-mot-thap-ky-post1595617.html