Transparencia de los productos de inteligencia artificial

Muchos productos de inteligencia artificial (IA) actuales no revelan el nivel de intervención tecnológica, lo que dificulta a los usuarios distinguir entre lo real y lo falso. Ante esta situación, definir claramente la obligación de transparencia y etiquetar los productos de IA se ha convertido en una necesidad urgente.

El stand deFPT en la exposición sobre aplicaciones de IA en diversos campos.

Hoy en día, desde la creación de contenido visual, de audio y texto hasta el apoyo automatizado a la toma de decisiones, muchos productos de IA no están etiquetados y se comparten como contenido común. En consecuencia, los usuarios desconocen si interactúan con contenido generado por humanos o por IA y pueden creer en información errónea o manipulada.

Por ejemplo, un salón de belleza publica un anuncio generado por IA con la imagen de una modelo, haciendo creer erróneamente a los clientes que es real, pero al probar el servicio, descubren que la calidad no es la anunciada. Aún más peligroso es que la IA cree fotos falsas de personas famosas, videos que simulen declaraciones de políticos o artículos creados por IA pero con nombres de personas reales, dañando el honor personal y la reputación de agencias y organizaciones.

Además, la falta de un mecanismo de etiquetado reduce la confianza de los usuarios en las plataformas digitales y los productos de IA. Un entorno digital que no es transparente respecto al origen del contenido genera desconfianza y reticencia entre los usuarios. Por otro lado, la mayoría de los usuarios vietnamitas no tienen la costumbre de identificar y verificar el origen del contenido, y las herramientas técnicas para detectar productos de IA son limitadas.

Definir claramente las obligaciones de transparencia y etiquetado no solo es un requisito ético tecnológico, sino también una base legal para proteger tanto a los usuarios como a los desarrolladores de productos de IA. Para cumplir con este requisito, el Ministerio de Ciencia y Tecnología está elaborando la Ley de Inteligencia Artificial, cuyo artículo 12 estipula la «Transparencia, el etiquetado y la rendición de cuentas».

Por consiguiente, el etiquetado consiste en la aplicación de medidas técnicas para indicar de forma clara, fácilmente reconocible y legible por máquina que el contenido (texto, imagen, audio, vídeo) fue creado o modificado significativamente por sistemas de IA. Esta indicación debe realizarse cuando el contenido se publique ampliamente.

Esta normativa establece obligaciones de etiquetado obligatorio para los productos creados o editados por IA, con el objetivo de hacer transparente el espacio digital, proteger a los consumidores y exigir que los proveedores y los distribuidores sean responsables conjuntamente si la falta de etiquetado causa confusión o daños.

Para el contenido que simula personas, objetos, lugares o eventos reales, el proyecto de ley estipula que los proveedores deben aplicar medidas para identificar claramente que el contenido ha sido creado por IA y garantizar la capacidad de autenticar y rastrear su origen. Esto se considera un paso importante en la gestión de la tecnología de IA, en consonancia con las tendencias internacionales, ya que la Unión Europea (UE), Estados Unidos, Japón y Corea del Sur han promulgado normativas similares.

A pesar de coincidir en la necesidad, muchos expertos y empresas consideran que la normativa sobre etiquetado del proyecto de ley debe ser más específica. El abogado Hoang Le Quan, del bufete Lexcomm Vietnam LLC, opina que es necesario aclarar si los proveedores de IA pueden decidir por sí mismos el formato de etiquetado o si deben seguir las instrucciones del Gobierno.

Si existen directrices, deben ser claras y garantizar la armonía con los estándares internacionales, evitando que los requisitos de Vietnam sean completamente diferentes o creen nuevas obligaciones, especialmente para los proveedores multinacionales, lo que afectaría la competitividad de Vietnam en la aplicación y el desarrollo de la IA en comparación con otros mercados como la Unión Europea (UE), Corea del Sur o Estados Unidos.

Algunas opiniones subrayan la necesidad de definir claramente el alcance y el nivel de aplicación, es decir, si todo el contenido con elementos de IA debe etiquetarse, o solo los productos creados íntegramente por IA o con una intervención significativa de esta. El Sr. Tran Van Tri, director de la Compañía Anónima de Medios Legales de Vietnam (LuatVietnam.vn), afirmó que cuando el contenido solo utiliza una pequeña parte de IA, ¿es necesario etiquetarlo o no? Es fundamental indicar claramente si la creación fue asistida por IA o si fue realizada completamente por IA.

En la industria del entretenimiento, algunas empresas buscan un mecanismo flexible para eximir a los productos de IA de las estrictas obligaciones de etiquetado y, en su lugar, aplicar advertencias o información transparente según el nivel de uso. La IA se utiliza ampliamente para mejorar el sonido, las imágenes y los efectos. Si se exigiera el etiquetado de todos los productos, los costos y los procedimientos aumentarían, lo que limitaría la creatividad.

El titular del Ministerio de Ciencia y Tecnología afirmó que el Proyecto de Ley sobre Inteligencia Artificial busca un equilibrio razonable entre la gestión y el fomento del desarrollo, garantizando la transparencia, la viabilidad y la consonancia con los estándares internacionales. El objetivo del etiquetado es clarificar la distinción entre el contenido creado por humanos y el generado por máquinas, evitando los extremos de una regulación laxa o excesivamente estricta, para que la tecnología pueda desarrollarse dentro de un marco transparente y responsable.

HA LINH

Fuente: https://nhandan.vn/minh-bach-hoa-san-pham-tri-tue-nhan-tao-post920112.html