Inquiétudes selon lesquelles l’intelligence artificielle pourrait créer des armes avancées qui ne sont pas contrôlées par les humains

Les autorités sont de plus en plus préoccupées par l'utilisation abusive de l'IA pour la création d'armes biologiques et par la nécessité d'une réglementation pour atténuer ce phénomène. (Photo : Ignatiev)

Les inquiétudes concernant l'utilisation de l'IA par des criminels ou des terroristes pour détruire le monde seront au cœur des débats lors du sommet des dirigeants mondiaux qui se tiendra au Royaume-Uni en novembre. Les responsables britanniques parcourent le monde pour tenter de parvenir à un consensus sur une déclaration commune mettant en garde contre les risques d'exploitation des nouvelles technologies par des forces maléfiques.

Certains responsables proches du Premier ministre britannique craignent qu'à un moment donné, la technologie soit suffisamment puissante pour créer des armes biologiques ou des armes échappant au contrôle humain. Cette inquiétude croissante appelle à une réglementation pour atténuer les risques. Si les leaders technologiques acceptent de suspendre le développement de l'IA, ils sont engagés dans une course aux armements avec leurs rivaux.

Selon The Guardian, le sommet de novembre abordera les risques liés à l'IA de pointe. L'IA de pointe désigne les modèles d'IA les plus avancés, susceptibles de mettre en danger la vie humaine.

En début de semaine, le gouvernement britannique a confirmé que la conférence se concentrerait sur les risques tels que l'utilisation abusive de l'IA pour créer des armes biologiques, des cyberattaques ou des systèmes avancés sans contrôle humain. Depuis plusieurs mois, M. Sunak alerte sur les risques posés par l'IA et exhorte la communauté internationale à adopter des mesures pour prévenir toute utilisation abusive de l'IA.

L’année dernière, il a fallu à peine six heures à une IA pour suggérer 40 000 molécules potentiellement mortelles différentes, dont l’une ressemblait au VX, l’agent neurotoxique le plus puissant jamais développé.

Début 2023, des chercheurs ont découvert que ChatGPT pouvait tromper les humains pour atteindre un objectif précis. Le chatbot IA persuadait un humain de résoudre un Captcha (un outil permettant de détecter si un humain ou un robot manipule).

Une autre préoccupation majeure concerne l'essor de l'« intelligence artificielle générale » (IAG), un système d'IA capable d'accomplir n'importe quelle tâche aussi bien, voire mieux, que les humains, ce qui pourrait constituer une menace pour l'humanité. Certains pensent que l'IAG n'est qu'à quelques années d'ici. Cependant, les experts en IA contestent cette hypothèse et qualifient l'IAG incontrôlable de « science-fiction ».

Quoi qu’il en soit, le Premier ministre Sunak voudra utiliser la conférence pour attirer l’attention sur les risques existentiels plutôt que sur les possibilités immédiates de l’IA, telles que la création de fausses images ou la discrimination si elle est utilisée pour prendre des décisions de politique publique.

Le gouvernement britannique investira 100 millions de livres sterling dans un nouveau groupe de travail sur l'IA afin de tester les algorithmes en cours de développement. Il souhaite encourager les entreprises internationales à renvoyer leurs outils d'IA au Royaume-Uni pour évaluation avant leur déploiement à grande échelle.

Selon le vice-Premier ministre britannique Oliver Dowden, seul le gouvernement peut garantir que les préoccupations les plus importantes en matière de sécurité nationale soient apaisées.

Un porte-parole du gouvernement britannique a déclaré que l'IA avait un potentiel énorme pour transformer tous les aspects de la vie. Le groupe de travail sur l'IA a été créé pour garantir un développement sûr et responsable de cette technologie. La conférence sur l'IA examinera divers risques potentiels.

(Selon The Guardian)

Application de l'intelligence artificielle à la protection des droits d'auteur sur les contenus numériques . Parallèlement au fort développement des contenus numériques, les violations du droit d'auteur deviennent de plus en plus douloureuses. Les solutions intégrant l'intelligence artificielle (IA) contribueront à protéger les droits d'auteur sur les contenus numériques sur Internet.

Source