Avertissement : l'IA pourrait développer une « volonté de survie », au-delà du contrôle humain

L'éminent informaticien Yoshua Bengio prévient que si l'IA devient incontrôlable, « l'humanité pourrait disparaître d'ici 10 ans ».

Les scientifiques s'inquiètent du risque de perte de contrôle de l'IA - Illustration : ChatGPT

Le 7 février, un éminent informaticien a mis en garde contre la possibilité que les humains « perdent le contrôle » des systèmes d’intelligence artificielle (IA) à l’avenir lorsque ces produits artificiels développeront une « volonté de survivre ».

S'exprimant lors du Sommet d'action sur l'IA qui se tient à Paris, l'informaticien Yoshua Bengio a appelé à une réglementation internationale plus stricte et à des recherches plus approfondies sur la sécurité de l'IA, qui ne représente actuellement qu'une petite fraction des investissements majeurs réalisés dans ce domaine.

L'émergence le mois dernier du modèle d'IA haute performance et économique DeepSeek a accéléré la course à la sécurité, selon le lauréat du prestigieux prix Turing 2018 en informatique. Yoshua Bengio a averti que si l'IA échappait à tout contrôle, « l'humanité pourrait disparaître d'ici dix ans ».

Il a également appelé les gouvernements à un leadership dans la gestion de l'IA. Cet appel intervient alors que les États-Unis, pays leader mondial en matière d'IA, ont pris de nombreuses mesures pour « débloquer » le développement de cette technologie sous la présidence de Donald Trump.

À l’heure actuelle, le rapport international sur la sécurité de l’IA présenté par M. Yoshua Bengio lors de la conférence souligne également des risques bien connus tels que l’utilisation de l’IA pour créer du contenu faux ou trompeur sur les plateformes en ligne, tandis que des risques supplémentaires émergent constamment, tels que les attaques biologiques ou les cyberattaques.

Avec les contributions d'environ 100 experts de 30 pays, des Nations Unies, de l'Union européenne et de l'Organisation de coopération et de développement économiques (OCDE), il s'agit du premier rapport sur la sécurité internationale de l'IA, réalisé depuis le sommet sur la sécurité de l'IA au Royaume-Uni en novembre 2023.

Source : https://tuoitre.vn/canh-bao-ai-co-the-phat-trien-y-chi-sinh-ton-vuot-kiem-soat-cua-con-nguoi-20250207104202015.htm