Le « Parrain » de l'IA met en garde contre le risque d'extinction

Le professeur Yoshua Bengio appelle les gouvernements et les entreprises à ralentir ou à risquer des conséquences potentiellement catastrophiques de la course aux armements de l'IA.

Yoshua Bengio, l'un des premiers scientifiques à avoir posé les bases de l'essor de l'IA moderne. Photo : Tuan Anh .

S'adressant au Wall Street Journal , l'un des pionniers de l'intelligence artificielle, Yoshua Bengio, a transmis le message selon lequel les machines IA deviennent plus dangereuses que jamais.

« Il serait dangereux de créer des machines bien plus intelligentes que les humains et dotées de leurs propres capacités d'autoprotection. Ce serait comme créer un concurrent de l'humanité, plus intelligent que nous », a déclaré M. Bengio.

Bengio, un chercheur canadien dont les premiers travaux sur l'apprentissage profond et les réseaux neuronaux ont jeté les bases de l'essor moderne de l'IA, est considéré comme l'un des « pères de l'IA » avec Geoffrey Hinton et Yann LeCun.

Comme Hinton, Bengio a mis en garde contre les dangers potentiels de l’IA et a appelé à une action collective pour atténuer les risques.

Le professeur de l’Université de Montréal croit que les produits d’IA peuvent désormais développer la capacité de tromper les utilisateurs pour poursuivre leurs propres objectifs, comme les méchants superordinateurs sensibles dans les films de science-fiction.

Pour remédier à cela, M. Bengio a souligné la nécessité de faire appel à des « tierces parties indépendantes » pour examiner les mécanismes de sécurité internes des entreprises d'IA. De plus, ce « parrain » de l'IA exige également des entreprises qu'elles fournissent la preuve que « les systèmes d'IA qu'elles déploient ou utilisent sont fiables ».

Si des mesures de sécurité ne sont pas prises, Bengio prédit que des risques majeurs liés à l’IA sont inévitables dans les 10 à 15 prochaines années, avec un scénario du pire de seulement trois ans avant qu’une catastrophe potentielle ne se produise.

Source : https://znews.vn/bo-gia-ai-canh-bao-nguy-co-tuyet-chung-post1590027.html