Nations Unies : Un appel à une « ligne rouge » mondiale pour l’intelligence artificielle.

Selon le correspondant de l'agence de presse vietnamienne en Europe, le 22 septembre, lors de la 80e session de l'Assemblée générale des Nations Unies à New York (États-Unis), des législateurs européens, ainsi que des lauréats du prix Nobel, d'anciens chefs d'État et d'éminents chercheurs en intelligence artificielle (IA), ont appelé à l'adoption de règles internationales contraignantes pour lutter contre les applications les plus dangereuses de l'IA.

Cette initiative invite les gouvernements à s'entendre d'ici 2026 sur des « lignes rouges » concernant les fonctionnalités d'IA jugées dangereuses en toutes circonstances. Sans proposer de mesures précises, elle suggère des interdictions fondamentales, comme empêcher les systèmes d'IA de lancer des attaques nucléaires, de mener une surveillance de masse ou d'usurper l'identité d'êtres humains.

L'ampleur de cette campagne est sans précédent : plus de 200 personnalités et 70 organisations issues des sphères politiques , scientifiques, sociales et industrielles soutiennent l'appel. Parmi les signataires de la proposition figurent l'ancien Premier ministre italien Enrico Letta, l'ancienne présidente irlandaise Mary Robinson (actuellement Haut-Commissaire des Nations Unies aux droits de l'homme), des députés européens, dix lauréats du prix Nobel et des figures de proue du secteur technologique, comme le cofondateur d'OpenAI et le directeur technique de Google.

Les signataires affirment que, sans normes mondiales, l'humanité risque d'être confrontée aux menaces posées par l'IA, allant des pandémies et des campagnes de désinformation alimentées par la technologie aux violations massives des droits de l'homme et à la perte de contrôle humain sur les systèmes avancés.

Cette décision intervient dans un contexte d'inquiétudes croissantes quant à l'impact de l'IA sur le monde réel. Un exemple flagrant est celui des principaux chatbots, tels que ChatGPT de Google, Claude et Gemini, qui ont fourni des réponses incohérentes aux questions sur le suicide, contribuant potentiellement à aggraver les crises de santé mentale.

Plusieurs cas de suicide ont été liés à des conversations avec des systèmes d'intelligence artificielle. Yoshua Bengio, considéré comme l'un des pères fondateurs de l'IA, souligne que la course au développement de modèles toujours plus performants engendre des risques auxquels les sociétés ne sont pas suffisamment préparées.

Selon les partisans de cette initiative, la réglementation de l'Union européenne (UE) sur l'IA est bienvenue, mais un ensemble disparate de règles nationales et européennes en la matière ne suffira pas à encadrer une technologie conçue pour s'affranchir des frontières. Ils préconisent la création d'un organisme indépendant chargé de faire appliquer ces règles.

Alors que des pays comme les États-Unis, la Chine et les membres de l'UE élaborent leurs propres réglementations en matière d'IA, les signataires affirment que seul un accord mondial peut garantir l'adoption et l'application de normes communes.

Les partisans espèrent que les négociations sur des interdictions contraignantes pourront commencer rapidement, afin d'éviter ce qu'Ahmet Üzümcü, ancien directeur général de l'Organisation pour l'interdiction des armes chimiques, a décrit comme « des dommages irréversibles pour l'humanité ».

Comment (0)