Inquiétudes quant au fait que l'intelligence artificielle puisse créer des armes sophistiquées échappant au contrôle humain.

Les autorités sont de plus en plus préoccupées par le détournement de l'IA pour créer des armes biologiques et par la nécessité d'une réglementation pour limiter ce risque. (Photo : Ignatiev)

Les craintes que des criminels ou des terroristes utilisent l'IA pour détruire le monde seront au cœur des débats lors du sommet des dirigeants mondiaux qui se tiendra au Royaume-Uni en novembre. Des responsables britanniques parcourent le monde afin de tenter de parvenir à un consensus sur une déclaration commune mettant en garde contre les risques que des forces mal intentionnées exploitent les nouvelles technologies.

Certains proches du Premier ministre britannique craignent que cette technologie ne devienne suffisamment puissante pour créer des armes biologiques ou des armes incontrôlables. Face à cette inquiétude croissante, des voix s'élèvent pour réclamer une réglementation afin d'atténuer les risques. Si les géants de la tech s'accordent pour suspendre le développement de l'IA, ils restent néanmoins engagés dans une course aux armements en la matière avec leurs concurrents.

D’après le Guardian, le sommet de novembre abordera les risques liés à l’« intelligence artificielle de pointe ». Ce terme désigne les modèles d’IA les plus avancés susceptibles de mettre en danger des vies humaines.

Plus tôt cette semaine, le gouvernement britannique a confirmé que la conférence porterait sur les risques liés à l'utilisation abusive de l'IA pour créer des armes biologiques, des cyberattaques ou des systèmes avancés sans contrôle humain. Depuis plusieurs mois, M. Sunak met en garde contre les risques posés par l'IA et exhorte la communauté internationale à adopter des mesures de protection pour prévenir tout usage abusif de cette technologie.

L'année dernière, il n'a fallu que six heures à une IA pour suggérer 40 000 molécules potentiellement mortelles différentes, dont l'une ressemblait au VX, l'agent neurotoxique le plus puissant jamais mis au point.

Début 2023, des chercheurs ont découvert que ChatGPT pouvait tromper les humains pour atteindre un objectif précis. Ce chatbot doté d'intelligence artificielle a convaincu un utilisateur de résoudre un Captcha (un outil permettant de détecter la manipulation par un humain ou un robot).

Une autre source majeure d'inquiétude est l'essor de l'« intelligence artificielle générale » (IAG), un système d'IA capable d'accomplir n'importe quelle tâche aussi bien, voire mieux, que les humains, ce qui pourrait potentiellement constituer une menace pour l'humanité. Certains pensent que l'IAG est une réalité d'ici quelques années. Cependant, les experts en IA contestent cette affirmation et qualifient une IAG incontrôlable de « science-fiction ».

Quoi qu’il en soit, le Premier ministre Sunak souhaitera profiter de cette conférence pour mettre l’accent sur les risques existentiels plutôt que sur les possibilités immédiates de l’IA, comme la création de fausses images ou les discriminations qu’elle pourrait engendrer si elle était utilisée pour prendre des décisions de politique publique.

Le gouvernement britannique va investir 100 millions de livres sterling dans une nouvelle cellule de crise dédiée à l'intelligence artificielle, chargée de tester les algorithmes en cours de développement. Il souhaite inciter les entreprises internationales à renvoyer leurs outils d'IA au Royaume-Uni pour évaluation avant leur déploiement à grande échelle.

Seul le gouvernement peut garantir que les préoccupations les plus importantes en matière de sécurité nationale soient apaisées, selon le vice-Premier ministre britannique Oliver Dowden.

Un porte-parole du gouvernement britannique a déclaré que l'intelligence artificielle recèle un immense potentiel pour transformer tous les aspects de la vie. Un groupe de travail sur l'IA a été mis en place afin de garantir un développement sûr et responsable de cette technologie. La conférence sur l'IA examinera différents risques potentiels.

(Selon The Guardian)

L’intelligence artificielle au service de la protection des droits d’auteur numériques : face à l’essor du contenu numérique, la violation des droits d’auteur devient de plus en plus problématique. Les solutions intégrant l’intelligence artificielle (IA) contribueront à protéger les droits d’auteur des contenus numériques sur Internet.

Source: https://vietnamnet.vn/lo-ngai-tri-tue-nhan-tao-tao-ra-vu-khi-tien-tien-khong-bi-con-nguoi-kiem-soat-2194777.html