Desarrollar tecnología, promover la innovación pero no dejar que los riesgos queden fuera de nuestro alcance

El vicepresidente de la Asamblea Nacional, Le Minh Hoan, presidió la reunión. Foto: Ho Long

En la tarde del 27 de noviembre, bajo la dirección del vicepresidente de la Asamblea Nacional, Le Minh Hoan, la Asamblea Nacional discutió en la Sala el proyecto de Ley sobre Inteligencia Artificial.

Falta de regulaciones sobre indemnizaciones y responsabilidad civil de los seguros

En relación con el Artículo 20 del proyecto de Ley sobre el mecanismo de pruebas controladas para el desarrollo de la inteligencia artificial, el diputado Hoang Minh Hieu ( Nghe An ) afirmó que el objetivo principal del mecanismo de pruebas controladas para la inteligencia artificial (IA) es eliminar las barreras legales que obstaculizan los modelos de IA, permitiendo pruebas limitadas para obtener datos que demuestren su eficacia, promoviendo así una reforma regulatoria a largo plazo. Este enfoque también es muy coherente con nuestra concepción legislativa actual, que establece que las instituciones deben dar prioridad a la hora de allanar el camino para el desarrollo.

Habla el diputado de la Asamblea Nacional, Hoang Minh Hieu (Nghe An). Foto de : Quang Khanh

El delegado enfatizó que las regulaciones sobre los mecanismos de pruebas controladas deben ser el foco del marco legal sobre IA, por lo que el organismo redactor necesita investigar y regular este tema de manera más específica en el proyecto de ley.

En consecuencia, el delegado propuso revisar las regulaciones sobre la exención o la reducción de algunas obligaciones de cumplimiento para las organizaciones y personas que participan en ensayos controlados, según lo estipulado en la Cláusula 2 del Artículo 20 del proyecto de Ley. Dichas regulaciones limitan el alcance de la exención a las disposiciones de esta Ley, mientras que los sistemas de IA suelen estar relacionados con muchas otras disposiciones legales pertinentes.

Los delegados mencionaron el mecanismo de prueba de IA en aviones de pasajeros autónomos en Japón, que está exento de ciertas normas para garantizar la seguridad aérea. O bien, las pruebas de vehículos autónomos en China y Japón están exentas de las disposiciones de la Ley de Protección de Datos Personales, que consisten en utilizar datos de imagen sin necesidad de desenfocar los rostros de los participantes del tráfico para entrenar la visión de la IA.

A partir de la experiencia de otros países, los delegados propusieron que el organismo encargado de elaborar el estudio sólo debería estipular en la Cláusula 2, Artículo 20 en el sentido de definir claramente que las organizaciones y los individuos que participan en ensayos controlados están exentos o reducidos de algunas obligaciones de cumplimiento prescritas en esta Ley y otras leyes pertinentes.

Delegados asistentes a la reunión. Foto: Ho Long

La cláusula 5, artículo 20 encarga al organismo estatal de gestión de la IA organizar la recepción, evaluación y procesamiento de los expedientes para participar en actividades de pruebas controladas de acuerdo con el proceso de evaluación y respuesta rápida.

El delegado Hoang Minh Hieu señaló que los sistemas de IA no se limitan a cuestiones tecnológicas y algorítmicas, sino que también son multidisciplinares e interdisciplinares. Por lo tanto, las disposiciones de la Cláusula 5 probablemente solo sean aplicables a sistemas de IA de propósito general, como la IA generativa (ChatGPT, Gemini). En cuanto a los sistemas de IA especializados, su naturaleza interdisciplinaria es muy alta.

Citando el sistema DrAid, un producto de IA que apoya el diagnóstico por imágenes médicas desarrollado por VinBrain, el delegado Hoang Minh Hieu afirmó que, si se registra para pruebas, es inevitable que el Ministerio de Salud no tenga la función de supervisión y gestión. Por lo tanto, en algunos países, la evaluación y la autorización de pruebas controladas de sistemas de IA se asignan a un consejo interdisciplinario.

Los delegados propusieron revisar las disposiciones de la Cláusula 5, Artículo 20 del proyecto de Ley en la dirección de "la agencia de gestión estatal sobre inteligencia artificial preside y coordina con las agencias de gestión estatal relevantes para organizar la recepción, evaluación y procesamiento de expedientes para participar en actividades de pruebas controladas".

El delegado también indicó que las disposiciones del Artículo 20 del proyecto de Ley aún carecen de disposiciones sobre indemnización y responsabilidades de seguro. Tampoco mencionan quién es responsable si la prueba causa daños a terceros. Según el principio general, la organización o persona que realiza la prueba deberá pagar una indemnización civil si causa daños. Por lo tanto, el delegado Hoang Minh Hieu sugirió considerar la inclusión de esta disposición en el proyecto de Ley.

Todo software de inteligencia artificial que funcione en Vietnam debe estar equipado con una " base de datos estándar similar a la humana ".

El diputado de la Asamblea Nacional, Tran Van Lam (Bac Ninh), elogió el proyecto de ley por definir el principio de priorizar a las personas; clasificar y controlar los riesgos; inspeccionar los sistemas de IA de alto riesgo; y desarrollar la infraestructura nacional de computación y datos. Se trata de un marco legal progresista, en línea con las tendencias internacionales.

El diputado de la Asamblea Nacional, Tran Van Lam (Bac Ninh), habla. Foto: Ho Long

Sin embargo, para que la Ley sea verdaderamente completa y tenga una visión a largo plazo, el delegado propuso una adición clave: considerar a la IA como un "ser humano recién nacido". Una "entidad inteligente pero inocente": que desconoce la ley, no comprende la ética ni la etiqueta, carece de valores culturales y no distingue el bien del mal si no se le enseña.

“Si consideramos la IA como una entidad emergente, nuestra responsabilidad no es solo controlarla, sino también enseñarla desde el principio, como enseñarle a un niño los valores humanos. Y esto debería ser una disposición obligatoria en esta Ley, no solo una recomendación”, afirmó el delegado Tran Van Lam.

Los delegados propusieron que la Asamblea Nacional agregue un principio legal a la Ley: "Todo software de IA que opere en Vietnam, ya sea desarrollado por organizaciones nacionales o extranjeras, debe estar equipado con una base de datos humana estándar ".

Según el delegado, la "base de datos estándar de fundamentos humanos" debe contener información suficiente para enseñar a la IA a comprender la legislación vietnamita; enseñarle los estándares éticos, la cultura y las buenas tradiciones de la nación; enseñarle a distinguir entre lo correcto y lo incorrecto, lo estándar y lo no estándar; los límites de comportamiento que no deben sobrepasarse y las normas para identificar riesgos para los humanos. Y, lo más importante, garantizar que esta base de datos tenga siempre absoluta prioridad en la regulación del comportamiento de la IA; no debe ser sobrescrita, reemplazada ni desactivada por ningún otro algoritmo o dato de entrenamiento. Este es el "anillo de oro" legal y técnico que garantiza que la IA no se desvíe.

Para implementar eficazmente esta orientación, los delegados sugirieron que el Ministerio de Ciencia y Tecnología lidere la creación de una plataforma de base de datos unificada, estandarizada y continuamente actualizada "Ser vietnamita" , y que se la proporcione a los desarrolladores de IA como requisito obligatorio. El Gobierno debería desarrollar una sólida infraestructura informática nacional para garantizar que la IA vietnamita se capacite según los valores vietnamitas y no dependa de modelos extranjeros.

Al mismo tiempo, construir un Centro Nacional de Pruebas de IA para evaluar con prontitud el comportamiento desviado, controlar los modelos de alto riesgo e intervenir con prontitud cuando se detecten indicios de que se está sobrepasando el límite. Promover la educación en IA en toda la sociedad, centrándose en ayudar a las personas, las empresas y, en especial, al sector público, a tener la capacidad de identificar, utilizar y supervisar adecuadamente la IA.

El delegado Tran Van Lam enfatizó: «La Ley de Inteligencia Artificial de hoy no es solo una ley tecnológica, sino una ley del futuro; un compromiso de la Asamblea Nacional con el pueblo: desarrollamos tecnología sin perder el control; promovemos la innovación sin permitir que los riesgos escapen de nuestro alcance. Y fomentamos la IA con valores vietnamitas para servir al pueblo vietnamita».

Kommentar (0)