Nations Unies : Appel à fixer des « lignes rouges » mondiales sur l'intelligence artificielle

Selon un correspondant de VNA en Europe, le 22 septembre, lors de la 80e session de l'Assemblée générale des Nations Unies à New York (États-Unis), des législateurs européens, ainsi que des lauréats du prix Nobel, d'anciens chefs d'État et des chercheurs de premier plan sur l'intelligence artificielle (IA), ont appelé à des règles internationales contraignantes pour lutter contre les applications les plus dangereuses de l'IA.

L'initiative appelle les gouvernements à convenir d'ici 2026 de « lignes rouges » pour les fonctionnalités d'IA considérées comme dangereuses en toutes circonstances. Elle ne propose pas de mesures spécifiques, mais suggère quelques interdictions fondamentales, comme empêcher les systèmes d'IA de lancer des attaques nucléaires, de mener une surveillance de masse ou de se faire passer pour des humains.

L'ampleur de la campagne est sans précédent : plus de 200 personnalités et 70 organisations issues des milieux politique , scientifique, sociétal et industriel soutiennent l'appel. Parmi les signataires figurent l'ancien Premier ministre italien Enrico Letta, l'ancienne présidente irlandaise Mary Robinson (aujourd'hui Haut-Commissaire des Nations Unies aux droits de l'homme), des membres du Parlement européen (PE), dix lauréats du prix Nobel et des leaders technologiques tels que le cofondateur d'OpenAI et le directeur technique de Google.

Les signataires affirment que sans normes mondiales, l’humanité risque d’être confrontée aux menaces posées par l’IA, allant des pandémies et des campagnes de désinformation conçues par la technologie aux violations des droits de l’homme à grande échelle et à la perte de contrôle des humains sur les systèmes avancés.

Cette décision intervient dans un contexte d'inquiétudes croissantes quant à l'impact de l'IA sur le monde réel. À titre d'exemple notable, des chatbots de premier plan, dont ChatGPT, Claude et Gemini de Google, ont fourni des réponses incohérentes à des questions sur le suicide, ce qui est considéré comme aggravant les crises de santé mentale.

Plusieurs suicides ont été liés à des conversations avec des systèmes d'IA. Yoshua Bengio, l'un des soi-disant « pères » de l'IA, a souligné que la course au développement de modèles toujours plus puissants engendre des risques auxquels les sociétés sont mal préparées.

La réglementation de l'Union européenne (UE) sur l'IA est bienvenue, mais un ensemble disparate de règles nationales et européennes en la matière ne suffira pas à encadrer une technologie conçue pour traverser les frontières, selon les partisans de l'initiative. Ils appellent à la création d'un organisme ou d'une organisation indépendante chargée de faire respecter ces règles.

Alors que des pays comme les États-Unis, la Chine et les membres de l’UE élaborent leurs propres réglementations en matière d’IA, les signataires affirment que seul un accord mondial peut garantir l’adoption et l’application de normes communes.

Les partisans de cette mesure espèrent que les négociations sur des interdictions contraignantes pourront commencer rapidement, afin d’éviter ce qu’Ahmet Üzümcü, ancien directeur général de l’Organisation pour l’interdiction des armes chimiques, a décrit comme des « dommages irréversibles pour l’humanité ».

(TTXVN/Vietnam+)

Source: https://www.vietnamplus.vn/lien-hop-quoc-loi-keu-goi-ve-lan-ranh-do-toan-cau-doi-voi-tri-tue-nhan-tao-post1063499.vnp