Ne laissez pas l’IA menacer la survie de l’humanité

Les « parrains de l'IA », lauréats du prix VinFuture 2024, estiment que les scientifiques doivent veiller à ce que les scénarios d'IA ne menacent pas la survie de l'humanité.

Aujourd'hui, 7 décembre, les lauréats du prix VinFuture 2024 ont échangé avec des étudiants et de jeunes chercheurs de l'université VinUni sur la recherche scientifique et les perspectives d'avenir de leurs domaines respectifs. Les lauréats du prix principal, scientifiques de renom dont les travaux novateurs ont jeté les bases de la révolution actuelle de l'IA, ont présenté les progrès remarquables de cette discipline.

Le professeur Yann LeCun (au centre) et le professeur Yoshua Bengio (à gauche sur la couverture) lors de la séance d'échange

« C'est comme si nous avions fait un bond de 10 ans dans le futur. »

N'ayant pu se rendre au Vietnam pour recevoir le prix, le professeur Geoffrey Hinton, de l'Université de Toronto (Canada), a participé à la cérémonie par visioconférence . Lui-même, ainsi que les professeurs Yann LeCun et Yoshua Bengio, ont reçu le prix Turing (considéré comme le prix Nobel d'informatique) en 2018 et ont été qualifiés de « pères fondateurs de l'intelligence artificielle » par les médias internationaux. Aujourd'hui, tous trois sont de nouveau honorés par VinFuture 2024, qui décerne le prix principal aux côtés de deux autres scientifiques : la professeure Fei Fei Li (États-Unis) et M. Jensen Huang (PDG de NVIDIA).

D'après le professeur Hinton, l'essor récent de l'IA s'explique par trois facteurs. Premièrement, les recherches visant à développer des méthodes d'apprentissage plus efficaces pour les réseaux neuronaux, recherches menées par lui-même, le professeur Yoshua, le professeur Yann et bien d'autres. Deuxièmement, la puissance de calcul extrêmement rapide des processeurs graphiques (GPU) et l'immense quantité de données que nous pouvons collecter.

Le professeur Geoffrey Hinton s'exprime par vidéo

« L’un des grands atouts de ce prix (VinFuture 2024) est la reconnaissance du travail de M. Jensen Huang, pionnier dans la création de cartes GPU utiles à l’IA. L’association de la carte GPU de Jensen Huang et des jeux de données du professeur Fei Fei Li a joué un rôle déterminant dans le développement moderne de l’IA. C’est formidable que leurs travaux soient reconnus aux côtés de ceux des chercheurs travaillant sur les algorithmes de réseaux neuronaux », a déclaré le professeur Hinton.

« Nous avons constaté que l'utilisation de GPU pour l'entraînement des réseaux neuronaux les rendait 30 fois plus rapides. Un véritable bond en avant ! La vitesse de calcul semblait avoir 10 ans d'avance. Soudain, nous avions 10 ans d'avance sur l'avenir en matière de puissance de calcul. Un changement radical pour l'IA, tout simplement incroyable ! », a déclaré le professeur Hinton.

Les scientifiques s'efforcent encore de mieux comprendre les connexions au sein des réseaux neuronaux. Cela leur permettra de créer une intelligence artificielle plus proche de l'intelligence humaine, capable même d'expliquer l'intuition. Les approches logiques traditionnelles ne pourront jamais y parvenir.

« Je commence à avoir peur de l'IA »

Le professeur Hinton a déclaré que les grands réseaux neuronaux actuels possèdent une intuition comparable à celle des humains. Depuis l'année dernière, il craint que l'IA ne devienne aussi intelligente que l'humain d'ici 5 à 20 ans. « C'est à ce moment-là que j'ai commencé à m'inquiéter pour l'IA. Arrêter son développement n'est pas envisageable. La seule solution est donc de trouver comment garantir la sécurité lorsqu'elle deviendra plus intelligente que nous », a-t-il expliqué.

« Mais je ne crois pas que la fin du monde soit inévitable », déclare le professeur Hinton. « Toutefois, nous ne pouvons ignorer ces possibilités et devons redoubler d’efforts pour l’éviter. Espérons que les étudiants les plus brillants choisiront d’étudier la sécurité de l’IA, afin de faire face à un large éventail de menaces, des menaces à long terme comme les prises de contrôle par l’IA aux menaces à court terme comme la cybercriminalité. »

Professeur Yoshua Bengio et Professeur Yann LeCun

Le professeur Yann LeCun s'inquiète lui aussi du risque que l'IA domine les humains lorsqu'elle sera aussi intelligente. Cependant, il n'existe pas encore de réponse définitive. « On peut perdre aux échecs avec un petit jouet à 30 euros. Est-ce dangereux ? Non. L'IA ne devient dangereuse que lorsqu'on lui donne la motivation de contrôler les humains. Mais pour l'instant, l'IA possède uniquement des connaissances, pas de motivation », a déclaré le professeur Yann.

Selon le professeur Yann, créer une IA au service de l'humain n'est qu'un problème technique. Penser qu'elle dominera l'humain parce qu'elle est intelligente relève du préjugé, car l'histoire montre que de nombreuses personnes brillantes n'ont jamais dominé le monde ! L'IA reste un outil ; le problème réside chez l'humain, pas dans l'IA.

Selon le professeur Yoshua Bengio, la subjectivité est essentielle : un simple problème peut compromettre la survie de l’humanité. L’être humain peut insuffler une motivation aux machines. Par exemple, si quelqu’un souhaite humaniser une machine et lui donner l’apparence d’un instinct de survie, alors même que nous voulons l’éteindre, elle refusera de le faire. « Bien entendu, nous devons absolument éviter ce scénario », a déclaré le professeur Bengio.

Source : https://thanhnien.vn/vinfuture-award-2024-recipient-of-award-cannot-do-anyone-does-the-extinction-of-humanity-185241207195331155.htm