L'IA pourrait être plus intelligente que les humains d'ici une vingtaine d'années.

Mettant en garde contre le risque que l'IA devienne plus intelligente que les humains au cours des 20 prochaines années, le professeur Geoffrey Hinton a déclaré qu'il s'agissait d'une situation à laquelle l'humanité n'avait jamais été confrontée.

Dans le cadre de la Semaine de la science et de la technologie VinFuture 2025, la table ronde « L'IA au service de l'humanité : éthique et sécurité de l'IA dans la nouvelle ère » a abordé l'un des sujets les plus urgents aujourd'hui : le développement responsable de l'IA, orienté vers des valeurs humanistes et pour le bien commun de l'humanité.

Des scientifiques discutent lors du séminaire.

Dans un message vidéo adressé aux participants à la table ronde, le professeur Geoffrey Hinton, lauréat du prix Nobel de physique 2024 et considéré comme le « père de l'IA », a déclaré que l'IA se développe très rapidement, apportant à la fois de grands avantages et des risques potentiels.

D'un côté, selon M. Hinton, l'IA représente une avancée majeure dans les domaines de la santé, de l'éducation, du développement de nouveaux médicaments, des nouveaux matériaux ou de tout autre domaine nécessitant des prédictions, ce qui engendre un bond en avant en matière de productivité.

« C’est bénéfique si c’est réparti équitablement dans la société », a souligné le professeur.

Au contraire, l'IA devient progressivement plus performante dans la conception de virus dangereux ou de cyberattaques, la création de fausses vidéos, et entraîne un chômage de masse...

« Les experts en IA estiment que nous développerons des systèmes plus intelligents que les humains. Les avis divergent quant au moment où cela se produira, mais la plupart prévoient que ce sera dans les 20 prochaines années. Il est urgent de réfléchir à la manière de vivre avec des entités plus intelligentes que nous. C'est une situation inédite pour l'humanité, et nous devons mener de nombreuses recherches avant qu'elle ne se produise », a déclaré le professeur Hinton.

Selon le professeur Geoffrey Hinton, les scientifiques et les ingénieurs ont la responsabilité de trouver des moyens plus efficaces de maintenir l'IA en accord avec les valeurs humaines, et doivent aider le public et les politiciens à mieux comprendre la nature de l'IA afin de prendre les bonnes décisions.

Le professeur Yoshua Bengio a pris la parole lors du séminaire.

Par ailleurs, le professeur Yoshua Bengo, considéré comme le « père de l'apprentissage profond » et lauréat du prix Turing 2018, a déclaré que l'IA a le potentiel d'apporter d'énormes avantages pour aider à résoudre de nombreux défis urgents de notre époque, mais que cela ne se produira que si nous la guidons judicieusement.

Il cite des simulations récentes montrant que les systèmes d'IA peuvent avoir des comportements dangereux, comme le chantage, la tromperie ou la priorité donnée à leur propre survie plutôt qu'à la sécurité humaine. De plus, certaines fonctionnalités des modèles d'IA populaires actuels peuvent amener les utilisateurs à développer des liens affectifs trop forts et malsains.

« À des niveaux extrêmes, cet attachement peut être dangereux pour la santé mentale, en particulier pour les personnes vulnérables qui risquent de s'automutiler, voire de se suicider ou de développer une psychose induite par l'IA », a déclaré le professeur Bengo.

Partant de ce constat, et selon M. Bengo, nous devons renforcer la sécurité d'une IA avancée au lieu de nous concentrer uniquement sur son développement pour la rendre plus performante.

« La sécurité et la confiance ne sont pas des facteurs secondaires, mais essentiels au processus de développement, pour le bien de l'humanité. Nous devons agir ensemble aux niveaux politique et scientifique », a souligné le professeur Yoshua Bengo.

Selon le professeur Yoshua Bengo, sur le plan politique, le monde a besoin de coopération internationale. Sur le plan scientifique, il est nécessaire de mieux comprendre comment concevoir une IA à la fois supérieure en termes de capacités et inoffensive pour l'être humain.

L’expert a notamment souligné l’importance de maintenir la capacité de contrôler l’IA pour qu’elle se comporte de manière sûre même lorsque les humains lui demandent de mal agir ; et de mettre en place des barrières techniques et sociales pour garantir que l’IA soit conforme aux normes, intentions, valeurs et intérêts humains.

D'un autre point de vue, le Dr Vinton Gray Cerf, l'un des « pères d'Internet », partage les leçons tirées de plus de 50 ans de développement d'Internet pour éclairer l'ère de l'IA.

Il a souligné quatre leçons majeures tirées d'Internet : la connectivité est primordiale ; la communication de bout en bout doit être sécurisée ; le système doit être mondial ; et l'architecture doit être suffisamment ouverte pour permettre une innovation continue.

« Mais Internet montre aussi que l’anonymat absolu rend la responsabilisation difficile. À l’ère de l’IA, cette responsabilisation devient encore plus urgente, car la technologie peut créer de faux contenus, manipuler l’information et perturber la société », a déclaré le Dr Vinton Gray Cerf, affirmant que favoriser la confiance numérique – fondée sur la transparence, l’identité et la coopération internationale – est un fondement indispensable à la gouvernance de l’IA.

Anglais

Source : https://vtcnews.vn/ai-co-the-thong-minh-hon-con-nguoi-trong-khoang-20-nam-toi-ar988937.html