« Le Parrain de l'IA » révèle le seul moyen pour l'humanité de survivre face à la super IA

(Dan Tri) - Geoffrey Hinton, connu comme le « parrain de l'IA », a exprimé son inquiétude quant au fait que la technologie qu'il a contribué à construire pourrait anéantir l'humanité à l'avenir.

Geoffrey Hinton, informaticien ayant contribué à poser les bases du développement de l'intelligence artificielle (IA), vient d'avertir qu'il est possible que 10 à 20 % de l'IA anéantisse l'humanité à l'avenir. Hinton doute également de la capacité des entreprises technologiques à contrôler l'IA.

« Cela ne fonctionnera pas (en ce qui concerne la capacité des entreprises technologiques à contrôler l'IA). Elles seront bien plus intelligentes que nous. Elles disposeront de nombreux moyens de contourner ce contrôle », a déclaré Geoffrey Hinton.

Geoffrey Hinton est connu comme le « Parrain de l'IA », celui qui a jeté les bases du développement de l'intelligence artificielle moderne (Photo : Pinterest).

Hinton prévient qu'à l'avenir, les systèmes d'IA pourraient contrôler les humains aussi facilement qu'un adulte peut utiliser des bonbons pour attirer un enfant de trois ans. Hinton cite des exemples de systèmes d'IA déjà prêts à tromper, tricher et désinformer pour atteindre leurs objectifs.

Selon Hinton, au lieu de forcer l’IA à obéir aux humains, il croit que la seule solution pour que l’humanité survive face à l’IA est d’intégrer « l’instinct maternel » dans les modèles d’IA, afin qu’ils se soucient vraiment des humains, même lorsque l’IA est devenue plus puissante et plus intelligente que l’intellect humain tout entier.

« S'ils deviennent plus intelligents que les humains, les systèmes d'IA développeront rapidement deux objectifs : survivre et trouver des moyens d'accroître leur contrôle. Toute forme d'IA tentera de survivre », a commenté Geoffrey Hinton.

C'est pourquoi il est important d'intégrer et de nourrir l'« instinct maternel » dans les modèles d'IA, a-t-il déclaré. Cependant, Hinton a indiqué ne pas encore clairement comprendre comment y parvenir techniquement, mais a souligné que les informaticiens doivent trouver des solutions pour y parvenir.

Emmett Shear, qui a occupé le poste de PDG par intérim chez OpenAI, a déclaré qu'il ne serait pas surpris si l'IA devenait à l'avenir plus intelligente, menaçait les humains et contournait les ordres de fermeture.

« L'IA est encore relativement faible aujourd'hui, mais elle est devenue beaucoup plus intelligente et puissante. Elle ne s'arrêtera pas », a déclaré Emmett Shear.

L'IA évolue plus vite que prévu

De nombreux experts en technologie estiment que l’IA se développe plus rapidement que prévu par l’humanité et que la superintelligence artificielle, également connue sous le nom d’intelligence artificielle générale (AGI), un système d’IA capable d’effectuer plusieurs tâches simultanément, apparaîtra dans les prochaines années.

Geoffrey Hinton a déclaré qu'il pensait autrefois qu'il faudrait 30 à 50 ans à l'humanité pour construire l'AGI, mais il voit désormais ce moment arriver plus tôt.

« On peut raisonnablement supposer que l’AGI apparaîtra dans les cinq à vingt prochaines années », a commenté Hinton.

Bien que Hinton s’inquiète du fait que des erreurs de développement continueront d’être commises, ce qui pourrait entraîner une spirale incontrôlable de l’IA, il espère que cette technologie ouvrira la voie à des avancées en médecine et améliorera la qualité de vie humaine.

« Grâce à l'IA, nous découvrirons de nouveaux médicaments révolutionnaires et disposerons de traitements contre le cancer bien plus efficaces qu'aujourd'hui. Par exemple, l'IA aidera les médecins à analyser et à relier d'énormes quantités de données issues de scanners et d'IRM », a commenté Geoffrey Hinton, qui ne croit toutefois pas que l'IA puisse aider les humains à atteindre l'immortalité.

Lorsqu'on lui a demandé ce qu'il aurait fait dans le passé s'il avait su que l'IA se développerait aussi rapidement qu'aujourd'hui, Hinton a déclaré qu'il regrettait de s'être concentré uniquement sur le fonctionnement de l'IA sans prêter attention à d'autres problèmes.

« J’aurais aimé penser aux questions de sécurité », a déclaré Hinton.

Le professeur Geoffrey Everest Hinton est né le 6 décembre 1947 à Londres, en Angleterre. Informaticien et psychologue cognitif, il est surnommé le « Parrain de l'IA » pour ses contributions pionnières dans les domaines de l'intelligence artificielle (IA) et de l'apprentissage profond.

En 2024, le professeur Hinton a remporté le prix Nobel de physique pour ses découvertes fondamentales en matière d’apprentissage automatique avec les réseaux de neurones artificiels.

Également en 2024, le professeur Geoffrey Hinton, ainsi que le professeur Yoshua Bengio, le professeur Yann LeCun, le professeur Fei-Fei Li et le PDG de la société de puces Nvidia Jensen Huang, ont été honorés et ont reçu le prix principal lors de la cérémonie de remise des prix VinFuture 2024, pour leurs grandes contributions dans les domaines de l'apprentissage profond et de l'intelligence artificielle.

Geoffrey Hinton, avec Yoshua Bengio et Yann LeCun, sont considérés comme les « parrains de l’IA » pour leurs recherches qui ont jeté les bases de nombreuses avancées importantes dans le développement de l’intelligence artificielle moderne.

Source : https://dantri.com.vn/cong-nghe/bo-gia-ai-tiet-lo-cach-duy-nhat-de-nhan-loai-ton-tai-truoc-sieu-ai-20250819160130130.htm