Le « père » de l'IA prévient : l'intelligence artificielle pourrait anéantir l'humanité dans les 30 prochaines années

Le « père » de l’IA, l’informaticien Geoffrey Hinton, prévient qu’il y a 10 à 20 % de chances que l’intelligence artificielle (IA) anéantisse l’humanité au cours des trois prochaines décennies.

L'informaticien Geoffrey Hinton s'exprime lors de sa conférence sur le prix Nobel de physique 2024 à Stockholm, en Suède - Photo : REUTERS

L'informaticien Geoffrey Hinton avait prévenu qu'il y avait 10 % de risque que l'intelligence artificielle (IA) ait des conséquences catastrophiques pour l'humanité. Cependant, le « père de l'IA » a récemment porté ce risque à 20 % d'ici 30 ans.

« Vous voyez, nous n'avons jamais eu affaire à quelque chose de plus intelligent que nous-mêmes », a déclaré M. Hinton à l'émission Today de BBC Radio 4.

Les humains sont comme des tout-petits comparés à des systèmes d'IA incroyablement puissants, déclare un informaticien britannico-canadien

En 2023, il a démissionné de Google afin de pouvoir librement avertir publiquement des dangers de cette technologie pour les humains.

M. Hinton a exprimé son inquiétude quant au fait que la création d’une technologie d’intelligence artificielle en général ou de systèmes plus intelligents que les humains pourrait conduire au pire des scénarios où la technologie échapperait avec succès au contrôle humain.

« À l'heure actuelle, la plupart des experts dans ce domaine pensent qu'à un moment donné, peut-être dans les 20 prochaines années, nous développerons une IA plus intelligente que les humains. Et c'est une perspective très inquiétante », a déclaré le professeur émérite de l'Université de Toronto (Canada).

Il a déclaré que le rythme de développement de l'IA était très rapide, bien plus rapide que prévu. Il a également appelé les gouvernements à renforcer la gestion de cette technologie.

« Je crains que notre main invisible ne parvienne pas à sécuriser cette technologie. Laisser les grandes entreprises la développer librement pour gagner de l'argent ne suffit donc pas à garantir sa sécurité. La réglementation mise en place par le gouvernement est le seul moyen de contraindre les grandes entreprises à approfondir leurs recherches sur la sécurité lors du développement de technologies d'IA », a analysé M. Hinton.

En 2023 également, il s'inquiétait du risque que l'IA accroisse les inégalités, une grande partie de son énorme productivité bénéficiant aux riches plutôt qu'à la classe ouvrière. Il a également souligné le danger des fausses nouvelles générées par des chatbots basés sur l'IA comme ChatGPT.

M. Hinton est l'un des trois « pères » de l'IA. En 2018, il a remporté le prix Turing, surnommé le « prix Nobel d'informatique », pour ses recherches révolutionnaires sur l'IA. Il vient de remporter le prix Nobel de physique 2024 avec le scientifique américain John Joseph Hopfield.

Source : https://tuoitre.vn/cha-de-cua-ai-canh-bao-tri-tue-nhan-tao-co-the-xoa-so-nhan-loai-trong-30-nam-toi-20241228152136156.htm