Naciones Unidas pide establecer "líneas rojas" globales sobre inteligencia artificial

Según un corresponsal de VNA en Europa, el 22 de septiembre, en la 80 sesión de la Asamblea General de las Naciones Unidas en Nueva York (EE.UU.), legisladores europeos, junto con premios Nobel, ex jefes de Estado y destacados investigadores en inteligencia artificial (IA), pidieron normas internacionales vinculantes para combatir las aplicaciones más peligrosas de la IA.

La iniciativa insta a los gobiernos a acordar, para 2026, límites máximos para las funciones de IA que se consideran peligrosas en cualquier circunstancia. No ofrece medidas específicas, pero sugiere algunas prohibiciones básicas, como impedir que los sistemas de IA lancen ataques nucleares, realicen vigilancia masiva o se hagan pasar por humanos.

El alcance de la campaña no tiene precedentes, con más de 200 figuras destacadas y 70 organizaciones de la política , la ciencia, la sociedad y la industria respaldando el llamamiento. Entre quienes firman la propuesta se encuentran el ex primer ministro italiano Enrico Letta, la ex presidenta irlandesa Mary Robinson (actual Alta Comisionada de las Naciones Unidas para los Derechos Humanos), miembros del Parlamento Europeo (PE), diez premios Nobel y líderes tecnológicos como el cofundador de OpenAI y el director de tecnología de Google.

Los firmantes afirman que sin estándares globales, la humanidad corre el riesgo de enfrentar las amenazas que plantea la IA, desde pandemias diseñadas tecnológicamente y campañas de desinformación hasta abusos de derechos humanos a gran escala y la pérdida del control de los seres humanos sobre sistemas avanzados.

Esta medida surge en medio de la creciente preocupación por el impacto de la IA en el mundo real. Un ejemplo notable es el de los chatbots líderes, como ChatGPT de Google, Claude y Gemini, que han dado respuestas inconsistentes a preguntas sobre el suicidio, lo que se cree que agrava las crisis de salud mental.

Varios suicidios se han vinculado a conversaciones con sistemas de IA. Yoshua Bengio, uno de los llamados "padrinos" de la IA, ha enfatizado que la carrera por desarrollar modelos cada vez más potentes genera riesgos que las sociedades no están preparadas para afrontar.

Las regulaciones de la Unión Europea (UE) sobre IA son bienvenidas, pero un conjunto heterogéneo de normas nacionales y de la UE sobre IA no será suficiente para regular una tecnología diseñada para cruzar fronteras, según los defensores de la iniciativa. Piden la creación de un organismo u organización independiente para hacer cumplir dichas normas.

Mientras países como Estados Unidos, China y los miembros de la UE están elaborando sus propias regulaciones sobre IA, los firmantes dicen que solo un acuerdo global puede garantizar que se adopten y apliquen estándares comunes.

Los partidarios del Tratado esperan que las negociaciones sobre prohibiciones vinculantes puedan comenzar rápidamente, para evitar lo que Ahmet Üzümcü, ex director general de la Organización para la Prohibición de las Armas Químicas, describió como “un daño irreversible a la humanidad”.

(TTXVN/Vietnam+)

Fuente: https://www.vietnamplus.vn/lien-hop-quoc-loi-keu-goi-ve-lan-ranh-do-toan-cau-doi-voi-tri-tue-nhan-tao-post1063499.vnp