Los delegados provinciales de la Asamblea Nacional discuten en grupos el proyecto de Ley sobre Inteligencia Artificial.

En su intervención en el debate, la delegada Vuong Thi Huong afirmó que la IA se está convirtiendo en la tecnología de vanguardia de la revolución industrial 4.0, abriendo grandes oportunidades para el desarrollo socioeconómico , pero también planteando numerosos desafíos en materia de gestión, ética y seguridad que la normativa legal actual no contempla plenamente. Los delegados coincidieron en la necesidad de promulgar el proyecto de Ley de Inteligencia Artificial para crear un entorno legal, impulsar el desarrollo de la inteligencia artificial, promover la innovación, mejorar la competitividad nacional y, al mismo tiempo, gestionar los riesgos y proteger los intereses nacionales y los derechos humanos.

La delegada Vuong Thi Huong habla durante el debate.

En cuanto al ámbito de regulación y los sujetos de aplicación, el delegado enfatizó que se trata de una disposición fundamental que determina los sujetos y el alcance de toda la ley. El ámbito de regulación de la Ley regula las actividades de "investigación, desarrollo, provisión, despliegue y uso" de sistemas de inteligencia artificial; sin embargo, los sujetos de aplicación de la Ley solo mencionan a organizaciones e individuos con actividades de "desarrollo, provisión, despliegue y uso" de sistemas de inteligencia artificial y no mencionan actividades de "investigación". Esto podría llevar a entender que las entidades que realizan investigación pura sobre inteligencia artificial, aunque puedan surgir ciertos riesgos, no están dentro del ámbito de regulación de la Ley. El delegado propuso agregar la frase "investigación" al Artículo 2 para garantizar la coherencia con el Artículo 1 .

Con respecto a la interpretación del término " modelo de inteligencia artificial de código abierto de propósito general" . Según el borrador, el modelo abierto se publica bajo una licencia que permite a organizaciones e individuos acceder, usar, modificar y redistribuir libremente los componentes principales, incluyendo el código fuente, los parámetros del modelo y los datos de entrenamiento. Los delegados recomendaron aclarar el contenido de la licencia del modelo de código abierto, definiéndola claramente como la licencia original emitida por el propietario del modelo. La ley vietnamita solo regula el marco de gestión, no reemplaza, amplía ni ajusta los derechos de propiedad intelectual del titular de los derechos. En caso de modificar, integrar o redistribuir el modelo más allá de las disposiciones de la licencia original, debe haber una aprobación por escrito del titular de los derechos.

Respecto a la Política de desarrollo del ecosistema y el mercado de inteligencia artificial, el delegado señaló que, en el contexto del rápido desarrollo de la IA, si no se define claramente el término "sistema de inteligencia artificial de nueva generación", será difícil identificar a los sujetos prioritarios y a los beneficiarios de las políticas de apoyo; difícil determinar el alcance de la gestión de riesgos; difícil para los organismos estatales desarrollar criterios de evaluación y aprobación. El delegado sugirió añadir una explicación del término, aclarando el concepto de "sistema de inteligencia artificial de nueva generación".

En cuanto al concepto y la responsabilidad del desarrollador de un modelo de inteligencia artificial de propósito general, el delegado afirmó que esta disposición es coherente con la práctica actual en el desarrollo de IA y que es necesario definir claramente la responsabilidad entre el desarrollador del modelo y el desarrollador de la aplicación para evitar la superposición de responsabilidades legales. Sin embargo, el proyecto de ley solo establece que el desarrollador es responsable de la "transparencia básica", pero no explica qué es la transparencia básica ni la transparencia mejorada, a pesar de que el requisito de transparencia es la base para evaluar la responsabilidad, la seguridad y el cumplimiento de la ley. El delegado recomendó aclarar el concepto y los criterios de la "transparencia básica".

En cuanto a la gestión de sistemas de inteligencia artificial de alto riesgo, los delegados señalaron que el proyecto de reglamento sobre clasificación y gestión de riesgos aún no especifica el organismo encargado de la gestión en cada ámbito específico. Específicamente, en el sector salud, si se asigna la coordinación general al organismo de gestión de tecnologías de la información sin definir claramente su función, se podrían producir solapamientos en la evaluación, falta de uniformidad en los estándares profesionales y dificultades en la gestión de productos de inteligencia artificial utilizados como dispositivos médicos o aplicados en exámenes y tratamientos médicos. Los delegados propusieron añadir un reglamento que asigne al Ministerio de Salud la responsabilidad de la gestión de sistemas de inteligencia artificial de alto riesgo en el sector salud.

En cuanto a la responsabilidad de transparencia, etiquetado y rendición de cuentas, el delegado indicó que el borrador no abarca el ámbito médico , si bien se trata de un campo específico con altos riesgos, directamente relacionado con la vida y la salud de las personas. Actualmente, muchos sistemas de IA se utilizan para respaldar el diagnóstico, analizar imágenes médicas, sugerir regímenes de tratamiento y brindar atención médica remota. Si los usuarios no reconocen claramente que la información es generada por IA, puede generar riesgo de abuso, confianza absoluta o confusión con las instrucciones profesionales del médico, lo que puede causar graves consecuencias médicas. Para que pacientes y médicos sepan con transparencia que la información es generada por IA, y no por recomendaciones profesionales humanas, se debe aumentar la responsabilidad de rastreo y rendición de cuentas cuando se produzcan errores médicos relacionados con la IA. El delegado propuso añadir una cláusula después del punto b, cláusula 3, artículo 9: «c». El etiquetado se aplica al contenido generado por sistemas de inteligencia artificial con el fin de alertar, respaldar la toma de decisiones clínicas en la atención médica o la prestación de servicios de salud.

Además, la delegada Vuong Thi Huong también contribuyó con comentarios sobre muchos contenidos del proyecto de ley, tales como: emitir una lista de conjuntos de datos clave que sirven para el desarrollo de la inteligencia artificial; sobre políticas para desarrollar el ecosistema y el mercado de inteligencia artificial; aclarar los conceptos de "productos de inteligencia artificial" y "servicios de inteligencia artificial"...

Kommentar (0)