Naciones Unidas pide establecer "líneas rojas" globales sobre inteligencia artificial

Según el corresponsal de la Agencia de Noticias de Vietnam en Europa, el 22 de septiembre, en la 80ª sesión de la Asamblea General de las Naciones Unidas en Nueva York (EE.UU.), legisladores europeos, junto con premios Nobel, ex jefes de Estado y destacados investigadores en inteligencia artificial (IA), pidieron normas internacionales vinculantes para combatir las aplicaciones más peligrosas de la IA.

Esta iniciativa insta a los gobiernos a acordar, para 2026, límites máximos para las funciones de IA consideradas peligrosas en cualquier circunstancia. Si bien no ofrece medidas específicas, la iniciativa sugiere algunas prohibiciones básicas, como impedir que los sistemas de IA lancen ataques nucleares, realicen vigilancia masiva o se hagan pasar por humanos.

El alcance de la campaña no tiene precedentes, con más de 200 figuras destacadas y 70 organizaciones de los sectores político , científico, social e industrial apoyando la convocatoria. Entre quienes firmaron la propuesta se encontraban el ex primer ministro italiano Enrico Letta, la ex presidenta irlandesa Mary Robinson (actual Alta Comisionada de las Naciones Unidas para los Derechos Humanos), miembros del Parlamento Europeo (PE), diez premios Nobel y líderes tecnológicos como el cofundador de OpenAI y el director de tecnología de Google.

Los firmantes afirman que sin estándares globales, la humanidad corre el riesgo de enfrentar las amenazas que plantea la IA, que van desde pandemias impulsadas por la tecnología y campañas de desinformación hasta abusos de los derechos humanos a gran escala y la pérdida del control humano sobre sistemas avanzados.

Esta medida surge en medio de la creciente preocupación por el impacto de la IA en el mundo real. Un claro ejemplo son los chatbots líderes, como ChatGPT de Google, Claude y Gemini, que han dado respuestas inconsistentes a preguntas sobre el suicidio, lo que podría agravar las crisis de salud mental.

Varios casos de suicidio se han vinculado a conversaciones con sistemas de IA. Yoshua Bengio, considerado uno de los "padrinos" de la IA, enfatiza que la carrera por desarrollar modelos cada vez más potentes genera riesgos que las sociedades no están adecuadamente preparadas para afrontar.

Según los promotores de la iniciativa, las regulaciones de la Unión Europea (UE) sobre IA son bienvenidas, pero un acuerdo fragmentado de normas nacionales y de la UE sobre IA no será suficiente para regular una tecnología diseñada para trascender fronteras. Piden la creación de un organismo u organización independiente para hacer cumplir dichas normas.

Mientras países como Estados Unidos, China y los miembros de la UE están redactando sus propias regulaciones sobre IA, los firmantes argumentan que solo un acuerdo global puede garantizar que se adopten y apliquen estándares comunes.

Los partidarios esperan que las negociaciones sobre prohibiciones vinculantes puedan comenzar rápidamente, para evitar lo que Ahmet Üzümcü, ex Director General de la Organización para la Prohibición de las Armas Químicas, describió como "daños irreversibles a la humanidad".

Kommentar (0)