Propuesta para restringir solo la IA de alto riesgo y evitar obstaculizar la innovación

El 9 de mayo, los diputados de la Asamblea Nacional discutieron en la sala una serie de contenidos controvertidos del proyecto de Ley de la Industria de Tecnologías Digitales . En particular, las regulaciones relacionadas con la inteligencia artificial (IA) continúan recibiendo muchos comentarios para garantizar su viabilidad y coherencia con las prácticas internacionales.

Al contribuir a la sesión de debate, el delegado Do Ngoc Thinh (delegación de Khanh Hoa ) dijo que la definición de IA en la Cláusula 10, Artículo 3 del proyecto de ley no refleja con precisión la naturaleza de la tecnología y no es coherente con el enfoque internacional.

Sugirió referirse a la definición de la Organización para la Cooperación y el Desarrollo Económicos (OCDE), que ha sido adoptada por muchos países y la Unión Europea. En consecuencia, la IA debe entenderse como "un sistema basado en máquinas que tiene como objetivo lograr un objetivo explícito o implícito mediante el razonamiento a partir de datos de entrada para producir resultados en forma de predicciones, recomendaciones o decisiones que afectan un entorno físico o virtual".

Delegado Do Ngoc Thinh (delegación de Khanh Hoa).

El delegado Thinh destacó que proporcionar una definición adecuada es una base importante para elaborar normas de gestión eficaces, facilitando al mismo tiempo la aplicación de la tecnología en la práctica.

Respecto a la clasificación de los sistemas de inteligencia artificial (artículo 46), la delegación de Khanh Hoa evaluó que las regulaciones actuales tienen similitudes con la Ley de IA de la UE, pero también tienen puntos poco claros. Según la UE, la IA se clasifica principalmente según el nivel de riesgo, desde “inaceptable” hasta “mínimo”. Sin embargo, el borrador de Vietnam agrega un grupo de "sistemas de IA de alto impacto", que podrían superponerse o entrar en conflicto con el grupo de "alto riesgo".

"Si esta clasificación no está vinculada a responsabilidades específicas en otras disposiciones, será difícil de implementar y carecerá de coherencia", afirmó el Sr. Thinh. Al mismo tiempo, se recomienda aclarar la filosofía de clasificación y garantizar que las regulaciones solo se apliquen a los sistemas de IA de alto riesgo, evitando un endurecimiento innecesario de los sistemas de bajo riesgo, apoyando así la innovación y explotando eficazmente el potencial de la tecnología.

Compartiendo la misma opinión sobre la falta de claridad en la regulación, la delegada Le Thi Thanh Lam (delegación de Hau Giang) comentó que la definición de sistemas de IA de alto riesgo en la Cláusula 1, Artículo 46 todavía es general y no proporciona criterios específicos como el nivel de impacto, el número de usuarios o la capacidad de datos para determinar el riesgo. "Sin criterios específicos, es difícil implementarlo en la práctica", afirmó la Sra. Lam.

La Sra. Lam también señaló que una reglamentación demasiado detallada sobre la tecnología puede ser innecesaria y que, en cambio, el enfoque debería centrarse en gestionar el comportamiento de uso de la tecnología. En particular, cuando se trata de las responsabilidades de los desarrolladores de IA en el artículo 48, cree que algunas obligaciones imponen una carga demasiado pesada sobre este tema, especialmente en el contexto de la tecnología de código abierto.

El delegado Luu Ba Mac (delegación de Lang Son) propuso agregar regulaciones que requieran que los sistemas de IA con altos niveles de riesgo o grandes impactos en la sociedad sean inspeccionados y evaluados por una organización independiente designada o reconocida por el Estado antes de ser puestos en uso.

Delegado Luu Ba Mac (delegación Lang Son).

Actualmente, el artículo 44 del proyecto de ley solo describe seis principios para el desarrollo y uso de la IA, y asigna a los ministerios y ramas la tarea de guiar su implementación. El artículo 46 también aborda la gestión de los sistemas de IA (incluidos los sistemas de alto riesgo y alto impacto), pero no estipula claramente un mecanismo de revisión independiente antes de su implementación.

Aunque la cláusula 5, artículo 46 establece que el Gobierno proporcionará regulaciones detalladas, según el Sr. Mac, debe haber un principio claro en la ley sobre la inspección independiente, con el fin de aumentar la transparencia, la eficacia de la gestión estatal y crear tranquilidad para las personas y las empresas al utilizar IA, especialmente en el contexto actual de transformación digital.

Respecto de la cláusula 1, artículo 47, el proyecto estipula que los sistemas de IA que interactúan directamente con humanos deben notificar a los usuarios, a menos que el usuario "sepa obviamente" que está interactuando con IA.

Según la delegación de Lang Son, esta expresión no es clara porque "saber obviamente" es un concepto subjetivo, que depende del nivel, la experiencia y las circunstancias de cada persona. Las personas conocedoras de tecnología pueden reconocer fácilmente la IA, pero las personas mayores que no son expertas en tecnología no pueden hacerlo. En consecuencia, es posible que esta expresión pueda ser explotada para ocultar la naturaleza de la IA, causando daños a los usuarios.

Por lo tanto, el Sr. Mac propuso revisar la regulación en el sentido de que los sistemas de IA que interactúan con humanos deben notificar de forma clara y sencilla a los usuarios que están interactuando con IA. Esta notificación debe estar habilitada de forma predeterminada, no oculta o deshabilitada automáticamente a menos que el usuario elija activamente deshabilitarla.

Minh Thu

Fuente: https://doanhnghiepvn.vn/cong-nghe/de-xuat-chi-siet-chat-ai-co-rui-ro-cao-tranh-can-tro-doi-moi-sang-tao/20250510094811591