Vietnam estudia regulaciones sobre ética de la IA

Basándose en la experiencia de muchos países y en los principios de la UNESCO, Vietnam está elaborando regulaciones para desarrollar la inteligencia artificial (IA) de forma ética y responsable.

En el taller "Desarrollo y aplicación de inteligencia artificial responsable: teoría y práctica", celebrado en la mañana del 28 de febrero en la Universidad de Derecho, VNU, el viceministro de Ciencia y Tecnología Bui The Duy, dijo que la ética de la IA es un tema complejo y global que está atrayendo a muchos países y organizaciones de todo el mundo a participar en la búsqueda de soluciones, incluida la UNESCO.

La UNESCO es una organización centrada en la cultura y la educación . Sin embargo, por primera vez, ha incorporado la inteligencia artificial, un tema tecnológico, al debate. Esta decisión ha provocado que algunos países que habían abandonado la organización decidan reincorporarse, afirmó.

Según el Viceministro, la ética de la IA afecta a muchos aspectos de la vida, como la sociedad, el derecho, la competencia política y la competencia comercial. Para que la inteligencia artificial se desarrolle responsablemente, es necesario tomar en serio la gestión desde la definición de los modelos de IA y la recopilación de datos hasta la finalización del sistema y su aplicación. En la realidad vietnamita, este proceso requiere la coordinación de ingenieros, científicos y organismos de gestión como el Ministerio de Ciencia y Tecnología, el Ministerio de Información y Comunicaciones y el Ministerio de Seguridad Pública .

También en el taller, el Sr. Duy afirmó que los principios de la UNESCO son la base para que los países creen regulaciones sobre la ética de la IA. En primer lugar, los modelos de inteligencia artificial deben cumplir con el diseño y las tareas establecidas desde el principio, para garantizar que no se produzcan acciones destructivas que perjudiquen a los seres humanos.

"La IA es completamente diferente de las tecnologías que los humanos han investigado. Mientras que los productos tecnológicos antiguos solo siguen objetivos existentes, la IA puede crear nuevas direcciones por sí sola, más allá del control del desarrollador", afirmó. El viceministro también puso como ejemplo un caso en el que científicos permitieron que dos sistemas informáticos conversaran en inglés. Sin embargo, después de un tiempo, repentinamente cambiaron a comunicarse en un idioma desconocido, lo que impidió que el equipo de investigación comprendiera el contenido de la conversación.

La igualdad y la equidad también son un tema de preocupación al construir un modelo de IA. Según el Sr. Duy, desde la recopilación de información para entrenar la inteligencia artificial, la desigualdad puede ocurrir y afectar negativamente a todo el sistema.

Con respecto al modelo de reconocimiento de voz de IA, afirmó que si la fuente de datos se recopila únicamente de la población de Hanói, el sistema estará sesgado al interactuar con personas de otras regiones. "En términos más generales, las fuentes de datos de IA pueden causar injusticia entre géneros y grupos sociales, como las personas con discapacidad", afirmó. Por lo tanto, para un desarrollo justo de la IA, además de la participación de expertos legales, también se necesita la contribución de psicólogos y sociólogos.

Además, el representante del Ministerio también enfatizó algunos principios importantes de la ética de la IA, como garantizar la seguridad de los datos personales, respetar los derechos de autor, los derechos de propiedad intelectual, mejorar la productividad laboral pero la necesidad de proteger el medio ambiente y la seguridad social.

El viceministro Bui The Duy habla en el taller. Foto: Hoang Giang

En el taller, los expertos dijeron que Vietnam está monitoreando la implementación de regulaciones sobre el desarrollo responsable de IA en muchos países y regiones alrededor del mundo, con el fin de investigar y construir un marco legal adecuado para la práctica nacional.

En concreto, a finales de 2023, la Unión Europea adoptó los principios de la Ley de IA, cuya publicación está prevista a más tardar en el segundo trimestre de 2024. Se trata, por el momento, de la primera y más completa ley, con numerosas iniciativas para abordar los riesgos de la IA.

"La Ley de IA de 2024 se basará en los riesgos de los modelos de IA para ajustar la ley en consecuencia, junto con un entorno de pruebas y un enfoque flexible en cuanto a ética, fiabilidad y responsabilidad", afirmó el Dr. Do Giang Nam, de la Universidad de Derecho de VNU, en el taller. Según él, la experiencia de la Ley de IA que Vietnam puede aplicar no consiste en "crear una ley definitiva, sino en actualizarla y adaptarla continuamente al desarrollo de la tecnología de IA".

A diferencia de Europa, EE. UU. recurre a las respuestas del sector privado para desarrollar la gobernanza de la IA. EE. UU. también es el país con más demandas contra empresas de IA, principalmente relacionadas con violaciones de la privacidad y discriminación entre grupos de trabajadores. Según los expertos, en lugar de un conjunto fijo de leyes, EE. UU. tiende a emitir numerosos principios para que las organizaciones y las personas puedan ser flexibles en el proceso de desarrollo y aplicación de modelos de IA.

China y Japón también son dos países que han logrado grandes avances en el desarrollo de una IA responsable. Desde 2019, este país de mil millones de habitantes ha emitido cuatro principios centrados en los modeladores, los usuarios, la gobernanza de la IA y las futuras direcciones de desarrollo de la IA. En consecuencia, China ha optado por desarrollar la IA de forma autónoma y promover la gobernanza nacional, mientras que Japón aspira a un código de conducta de IA centrado en el ser humano, garantizando al mismo tiempo la participación en foros internacionales.

"El proceso de gestión de la inteligencia artificial en países de la misma región, como China y Japón, puede ser una experiencia para el desarrollo de una IA responsable en Vietnam. Además de la legalidad, la responsabilidad aquí también implica responsabilidad con la sociedad y las personas", afirmó la Dra. Nguyen Thi Que Anh, profesora asociada y rectora de la Universidad de Derecho de la VNU. Asimismo, Vietnam está desarrollando la Ley de la Industria de la Tecnología Digital, que incluye contenido sobre la ética de los productos digitales, incluida la inteligencia artificial.

Hoang Giang

Enlace de origen: https://vnexpress.net/viet-nam-nghien-cuu-quy-dinh-ve-dao-duc-ai-4716422.html