Le danger des « robots tueurs IA » menace la sécurité mondiale

Le tableau complexe de l'utilisation des robots tueurs dotés d'IA

Confier le contrôle des systèmes d'armes à l'IA pourrait permettre d'identifier, d'attaquer et de détruire des cibles sans intervention humaine. Cela soulève de sérieuses questions juridiques et éthiques.

Soulignant la gravité de la situation, le ministre autrichien des Affaires étrangères , Alexander Schallenberg, a déclaré : « C'est le moment Oppenheimer de notre génération. »

Les robots et les armes utilisant l'intelligence artificielle commencent à être largement utilisés dans les armées de nombreux pays. Photo : Forbes

En effet, la question de savoir dans quelle mesure « le génie s’est échappé de la bouteille » est devenue une question pressante, car les drones et l’intelligence artificielle (IA) sont désormais largement utilisés par les forces armées du monde entier.

« L’utilisation de drones dans les conflits modernes par la Russie et l’Ukraine, l’utilisation de drones par les États-Unis dans des opérations de frappe ciblées en Afghanistan et au Pakistan et, comme cela a été révélé le mois dernier, dans le cadre du programme israélien Lavender, montrent comment les capacités de traitement de l’information de l’IA sont activement utilisées par les forces armées du monde entier pour renforcer leur puissance offensive », a déclaré Wilson Jones, analyste de défense chez GlobalData.

Une enquête menée par l'Office of War Investigative Journalism, basé à Londres, a révélé que le système d'intelligence artificielle Lavender de l'armée israélienne affichait un taux de réussite de 90 % pour identifier les individus liés au Hamas, ce qui signifie que 10 % d'entre eux ne l'étaient pas. Ce dysfonctionnement a entraîné des morts parmi les civils, conséquences directes des capacités d'identification et de prise de décision de l'IA.

Une menace pour la sécurité mondiale

L'utilisation de l'IA de cette manière souligne la nécessité de maîtriser la technologie dans les systèmes d'armes.

« L’utilisation de l’IA dans les systèmes d’armes, en particulier lorsqu’elle est utilisée pour le ciblage, soulève des questions fondamentales sur nous – les humains – et notre relation à la guerre , et plus précisément sur nos hypothèses quant à la manière dont nous pourrions utiliser la violence dans les conflits armés », a expliqué à Army Technology le Dr Alexander Blanchard, chercheur principal au sein du programme de gouvernance de l’intelligence artificielle de l’Institut international de recherche sur la paix de Stockholm (SIPRI), un groupe de recherche indépendant axé sur la sécurité mondiale.

Les systèmes d'IA, utilisés dans des environnements chaotiques, peuvent avoir un comportement imprévisible et ne pas parvenir à identifier correctement les cibles. Photo : MES

« L’IA modifie-t-elle la façon dont les militaires sélectionnent leurs cibles et emploient la force ? Ces changements soulèvent, à leur tour, une multitude de questions juridiques, éthiques et opérationnelles. Les principales préoccupations sont d’ordre humanitaire », a ajouté le Dr Blanchard.

« Nombreux sont ceux qui craignent que, selon leur conception et leur utilisation, les systèmes autonomes puissent exposer les civils et autres personnes protégées par le droit international à un risque accru de préjudice », a expliqué l'expert du SIPRI. « En effet, les systèmes d'IA, surtout lorsqu'ils sont utilisés dans des environnements chaotiques, peuvent fonctionner de manière imprévisible et ne pas identifier correctement leurs cibles, attaquant ainsi des civils ou des combattants qui ne participent pas aux combats. »

Pour développer ce point, Wilson Jones, analyste de la défense chez GlobalData, a souligné que la question de la détermination de la culpabilité pourrait être sujette à caution.

« Selon le droit de la guerre en vigueur, il existe le principe de la responsabilité du commandement », a déclaré M. Jones. « Cela signifie qu’un officier, un général ou tout autre chef est juridiquement responsable des actes des troupes placées sous son commandement. Si des soldats commettent des crimes de guerre, l’officier est responsable même s’il n’a pas donné les ordres ; il lui incombe de prouver qu’il a tout mis en œuvre pour empêcher ces crimes. »

« Avec les systèmes d’IA, cela complique les choses. Qui est responsable ? Un technicien informatique ? Un concepteur de système ? Ce n’est pas clair. Et si ce n’est pas clair, cela crée un risque moral si les acteurs pensent que leurs actions ne sont pas protégées par les lois existantes », a souligné M. Jones.

Un soldat américain patrouille avec un chien robot. Photo : Forbes

Conventions sur le contrôle des armements. Plusieurs accords internationaux majeurs limitent et réglementent certains usages des armes. Il existe des interdictions des armes chimiques, des traités de non-prolifération nucléaire et la Convention sur certaines armes classiques, qui interdit ou limite l'utilisation d'armes spécifiques considérées comme causant des souffrances inutiles ou injustifiables aux belligérants ou affectant indistinctement les civils.

« La maîtrise des armements nucléaires a nécessité des décennies de coopération internationale et l’application de traités successifs », explique Wilson Jones, analyste de la défense. « Malgré cela, les essais atmosphériques se sont poursuivis jusque dans les années 1990. Le succès de la non-prolifération nucléaire s’expliquait en grande partie par la coopération entre les États-Unis et l’Union soviétique dans le contexte de l’ordre mondial bipolaire. Cette coopération n’existe plus, et la technologie à l’origine de l’IA est aujourd’hui plus accessible à de nombreux pays que l’énergie nucléaire. »

« Un traité contraignant devrait réunir tous les acteurs concernés afin qu'ils s'engagent à ne pas utiliser un outil renforçant leur puissance militaire. Or, cela est peu probable, car l'IA peut améliorer l'efficacité militaire à un coût financier et matériel minimal. »

Perspectives géopolitiques actuelles

Si les pays membres des Nations Unies ont reconnu la nécessité d'une utilisation militaire responsable de l'IA, il reste encore beaucoup à faire.

« En l’absence d’un cadre réglementaire clair, ces revendications restent largement du domaine du vœu pieux », a déclaré Laura Petrone, analyste principale chez GlobalData, à Army Technology. « Il n’est pas surprenant que certains pays souhaitent préserver leur souveraineté en matière de défense intérieure et de sécurité nationale, surtout dans le contexte géopolitique actuel. »

Mme Petrone a ajouté que si la loi européenne sur l'IA définit certaines exigences pour les systèmes d'IA, elle ne traite pas des systèmes d'IA à des fins militaires.

« Je pense que malgré cette exclusion, la loi sur l'IA représente un effort important pour établir un cadre attendu depuis longtemps pour les applications de l'IA, ce qui pourrait conduire à une certaine uniformisation des normes pertinentes à l'avenir », a-t-elle commenté. « Cette uniformité sera également importante pour l'IA dans le domaine militaire. »

Nguyen Khanh

Source : https://www.congluan.vn/moi-nguy-robot-sat-thu-ai-dang-de-doa-an-ninh-toan-cau-post304170.html