Ne laissez pas l’IA menacer la survie de l’humanité

Les « parrains de l’IA », lauréats du prix VinFuture 2024, estiment que les scientifiques doivent s’assurer que les scénarios d’IA ne menacent pas la survie de l’humanité.

Aujourd'hui, 7 décembre, les lauréats du prix VinFuture 2024 ont interagi avec des étudiants et de jeunes scientifiques de l'Université VinUni sur la recherche scientifique ainsi que sur les perspectives d'avenir des domaines qu'ils poursuivent. Ici, les lauréats des principaux prix, des scientifiques brillants dont les travaux révolutionnaires ont jeté les bases de la révolution de l'IA d'aujourd'hui, ont parlé des avancées incroyables de l'IA.

Le professeur Yann LeCun (au milieu) et le professeur Yoshua Bengio (couverture gauche) lors de la séance d'échange

« Nous avons l’impression d’avoir fait un bond de 10 ans dans le futur. »

N'étant pas venu au Vietnam pour recevoir le prix, le professeur Geoffrey Hinton, de l'Université de Toronto, au Canada, a participé à l'échange par vidéo . Lui, ainsi que le professeur Yann LeCun et le professeur Yoshua Bengio, ont reçu le prix Turing (une récompense considérée comme le prix Nobel en informatique) en 2018, et sont tous deux appelés « parrains de l'IA » par les médias internationaux. Désormais, tous les trois continuent d'être honorés par VinFuture 2024 lors du prix principal, aux côtés de deux autres scientifiques, le professeur Fei Fei Li (États-Unis) et M. Jensen Huang (PDG de NVIDIA).

Selon le professeur Hinton, l’essor récent de l’IA est le résultat de trois facteurs. La première est une recherche visant à développer des méthodes plus efficaces pour permettre aux réseaux neuronaux d’apprendre, ce qu’il a fait, avec le professeur Yoshua, le professeur Yann et bien d’autres. À cela s’ajoute la puissance de calcul extrêmement rapide des unités de traitement graphique (GPU) et l’énorme quantité de données que nous pouvons collecter.

Le professeur Geoffrey Hinton partage via vidéo

« L'un des aspects importants de ce prix (VinFuture 2024) est la reconnaissance du travail de M. Jensen Huang, pionnier dans la création de cartes GPU utiles à l'IA. L'association de la carte GPU de Jensen Huang et des données du professeur Fei Fei Li a joué un rôle important dans le développement moderne de l'IA. C'est formidable que leurs travaux soient reconnus aux côtés de ceux travaillant sur les algorithmes de réseaux neuronaux », a déclaré le professeur Hinton.

« Nous avons constaté que l'utilisation de GPU pour entraîner les réseaux neuronaux les rendait 30 fois plus rapides. C'était un véritable bond en avant. C'était comme si la vitesse de calcul avait dix ans d'avance. Soudain, nous avions dix ans d'avance sur l'avenir en termes de vitesse de calcul. C'était une révolution pour l'IA, c'était incroyable ! » a déclaré le professeur Hinton.

Aujourd’hui, les scientifiques continuent de chercher à mieux comprendre les connexions au sein des réseaux neuronaux. Cela aiderait les scientifiques à créer un type d’intelligence artificielle plus proche de l’intelligence humaine et pourrait même expliquer l’intuition. L’approche logique traditionnelle n’a jamais fait cela.

« Je commence à avoir peur de l'IA »

Le professeur Hinton a fait remarquer que les grands réseaux neuronaux d’aujourd’hui ont une intuition similaire à celle des humains. Depuis l’année dernière, il craint qu’il ne faille que cinq à vingt ans pour que l’IA soit aussi intelligente que les humains. « C'est à ce moment-là que j'ai commencé à avoir peur de l'IA. Arrêter le développement n'est pas envisageable. La seule solution est donc de trouver comment garantir sa sécurité lorsqu'elle deviendra plus intelligente que nous », a expliqué le professeur Hinton.

« Mais je ne pense pas que la fin du monde soit inévitable », déclare le professeur Hinton. Mais les risques ne peuvent être ignorés, et nous devons travailler dur pour les prévenir. Espérons que les étudiants les plus talentueux choisiront d'étudier la sécurité de l'IA, en s'attaquant à un large éventail de menaces, des menaces à long terme comme la prise de contrôle de l'IA aux menaces à court terme comme la cybercriminalité.

Professeur Yoshua Bengio et Professeur Yann LeCun

Le professeur Yann Lecun a déclaré qu'il s'inquiétait également du risque que lorsque l'IA sera aussi intelligente que les humains, elle dominera les humains. Cependant, la réponse actuelle est non. « On peut perdre aux échecs avec un petit jouet qui coûte 30 euros. Est-ce dangereux ? La réponse est non. L’IA ne devient dangereuse que si on lui donne une motivation (un contrôle humain). Mais pour l’instant, l’IA n’a que des connaissances, pas de motivation », a déclaré le professeur Yann.

Selon le professeur Yann, créer une IA qui serve activement les humains n’est qu’un problème technique. Parce que l’IA est intelligente, penser que l’IA dominera les humains est un préjugé, car la réalité montre que dans la société, il y a eu beaucoup de gens intelligents mais ils n’ont pas dominé le monde ! L’IA reste un outil, le problème vient des humains, pas de l’IA.

Selon le professeur Yoshua Bengio, nous ne pouvons pas être subjectifs, un simple petit problème peut affecter la survie de l’humanité. Les humains peuvent mettre de la motivation dans les machines. Par exemple, quelqu'un veut transformer la machine en humain, en faisant en sorte que la machine ait besoin de « survivre », nous voulons éteindre la machine mais elle ne s'éteint pas. « Bien sûr, nous devons nous assurer que ce scénario ne se produise pas », a déclaré le professeur Bengio.

Source : https://thanhnien.vn/vinfuture-award-2024-khong-de-ai-de-doa-su-ton-vong-cua-nhan-loai-185241207195331155.htm