Las propuestas de uso de IA para la comunicación y la publicidad deben estar claramente etiquetadas y anunciadas.

El proyecto de Ley de Inteligencia Artificial establece que es necesario notificar y etiquetar claramente los contenidos creados o editados con elementos que simulen personas reales (deepfake) que puedan generar equívocos, o los contenidos creados por inteligencia artificial con fines comunicativos y publicitarios.

Clasificación de los sistemas de inteligencia artificial en cuatro niveles de riesgo

En la mañana del 21 de noviembre, la Asamblea Nacional escuchó la presentación y el informe sobre el examen del proyecto de Ley de Inteligencia Artificial.

Al presentar el informe, el Ministro de Ciencia y Tecnología, Nguyen Manh Hung, dijo que el proyecto de ley fue elaborado para crear un corredor legal innovador para la inteligencia artificial, creando un entorno legal favorable para promover la innovación, mejorar la competitividad nacional y, al mismo tiempo, gestionar los riesgos, proteger los intereses nacionales, los derechos humanos y la soberanía digital.

El Ministro de Ciencia y Tecnología, Nguyen Manh Hung, presentó el informe.

Para regular los sistemas de inteligencia artificial, el proyecto de ley ha adoptado un enfoque de gestión basado en riesgos, clasificando la inteligencia artificial en cuatro niveles e imponiendo las obligaciones correspondientes.

Los sistemas de inteligencia artificial se clasifican en cuatro niveles de riesgo: Riesgo inaceptable: el sistema tiene el potencial de causar daños graves e irreparables.

El riesgo alto es el sistema que puede causar daños a la vida, la salud, los derechos y los intereses legítimos; el riesgo medio es el que conlleva el riesgo de confundir, manipular o engañar a los usuarios. El riesgo bajo se refiere a los demás casos.

El proveedor debe autoclasificar el sistema antes de su circulación y es responsable de los resultados de la clasificación.

En el caso de sistemas de riesgo medio y alto, el proveedor debe notificar al Ministerio de Ciencia y Tecnología a través del Portal Único. La autoridad competente tiene derecho a revisar y reevaluar la clasificación.

La ley estipula la responsabilidad de transparencia, etiquetado y rendición de cuentas. En concreto, la parte responsable debe notificar y etiquetar claramente el contenido creado o editado con elementos falsos, que simulen personas reales (deepfake) que puedan generar malentendidos, o el contenido creado mediante inteligencia artificial con fines de comunicación y publicidad.

Los proveedores e implementadores deben explicar los resultados del manejo de sistemas de alto riesgo cuando lo soliciten las partes afectadas.

En caso de incidente, las partes son responsables de corregir, suspender o retirar el sistema de inmediato e informarlo a través del Portal Único. Para fines de gestión de riesgos, con un riesgo inaceptable, se prohíbe el desarrollo, suministro, implementación o uso de estos sistemas en cualquier forma.

La lista prohibida incluye sistemas utilizados para realizar actos prohibidos por la ley, utilizar elementos falsos para engañar, manipular y causar daños graves, explotar las debilidades de grupos vulnerables (niños, ancianos, etc.) o crear contenidos falsos que dañen gravemente la seguridad nacional.

En el caso de sistemas de alto riesgo, es necesario evaluar su idoneidad antes de ponerlos en circulación o en uso.

La evaluación puede realizarse en forma de certificación de conformidad (realizada por un organismo acreditado) o de vigilancia de la conformidad (autoevaluación del proveedor).

El Primer Ministro prescribe la lista de sistemas de inteligencia artificial de alto riesgo correspondiente a cada forma de evaluación.

Se establecen obligaciones detalladas para el proveedor (establecer medidas de gestión de riesgos, gestionar datos de capacitación, preparar documentación técnica, garantizar la supervisión humana) y para el implementador (operar para el propósito previsto, garantizar la seguridad, cumplir con las obligaciones de transparencia).

Los proveedores extranjeros con sistemas de alto riesgo deben tener un representante autorizado en Vietnam y deben establecer una entidad legal en Vietnam si el sistema está sujeto a la certificación de conformidad obligatoria.

Para los modelos de riesgo medio, bajo y multipropósito, el sistema de riesgo medio debe garantizar la transparencia y el etiquetado.

El proyecto también estipula las responsabilidades de los desarrolladores y usuarios de modelos de inteligencia artificial de propósito general para garantizar el cumplimiento de la legislación vietnamita. Se aplican obligaciones reforzadas a los modelos de IAGP con riesgo sistémico (posibilidad de impactos de gran alcance), incluyendo la evaluación de impacto, el mantenimiento de registros técnicos y la notificación al Ministerio de Ciencia y Tecnología.

Sin embargo, los modelos de IA de propósito general de código abierto están exentos de estas obligaciones mejoradas; cuando se utiliza un modelo de código abierto para desarrollar un sistema de IA, la organización que lo utiliza debe asumir la gestión de riesgos de ese sistema.

Considere utilizar etiquetado invisible para reducir costos

Desde una perspectiva de examen, el presidente del Comité de Ciencia, Tecnología y Medio Ambiente, Nguyen Thanh Hai, dijo que el Comité considera que etiquetar los productos de IA es una responsabilidad ética y legal vinculante para generar confianza en la era de la IA.

Presidente del Comité de Ciencia, Tecnología y Medio Ambiente, Nguyen Thanh Hai.

Aunque básicamente está de acuerdo con las disposiciones de etiquetado del proyecto de ley, el Comité recomienda hacer referencia a la experiencia internacional sobre productos generados por IA para garantizar su idoneidad para las condiciones prácticas de Vietnam.

Para productos y dispositivos de hardware con aplicaciones de IA (como refrigeradores, televisores, lavadoras, etc.), se recomienda investigar y considerar la aplicación de marcas de agua invisibles para reducir costos y procedimientos y, al mismo tiempo, garantizar la gestión y la trazabilidad.

Al mismo tiempo, se propone estipular en el proyecto de Ley los principios para que el Gobierno imparta instrucciones detalladas sobre formularios, normas técnicas y exenciones.

Existe una propuesta para cambiar la normativa de etiquetado de obligatoria a recomendada, con una orientación técnica mínima.

Al mismo tiempo, es necesario poner a prueba un mecanismo de etiquetado voluntario en varios campos y, al mismo tiempo, fortalecer la comunicación para evitar el malentendido de que "sin etiqueta no es un producto de IA".

En cuanto a la clasificación de riesgos, el Comité considera que la clasificación de cuatro niveles, si bien la Ley de Calidad de Productos y Bienes clasifica los productos y bienes en tres tipos, es inconsistente si se considera a la IA como productos y bienes.

Las normas sobre certificación de conformidad de sistemas de inteligencia artificial de alto riesgo no son coherentes con los principios de gestión de productos y bienes de alto riesgo prescritos en la Ley de Calidad de Productos y Bienes.

Por lo tanto, se recomienda seguir revisando y comparando cuidadosamente las disposiciones del proyecto de Ley con las leyes vigentes.

Según el periódico Construction

Fuente: https://mst.gov.vn/de-xuat-dung-ai-de-truyen-thong-quang-cao-phai-dan-nhan-thong-bao-ro-197251125140252967.htm