Se prohíbe el uso de sistemas de inteligencia artificial para crear contenido falso que ponga en peligro la seguridad nacional.

En la tarde del 10 de diciembre, la Asamblea Nacional aprobó la Ley de Inteligencia Artificial con el voto a favor de 429 de los 434 delegados asistentes (equivalente al 90,7% del total de delegados de la Asamblea Nacional).

La Ley de Inteligencia Artificial consta de 8 capítulos y 35 artículos que regulan la investigación, el desarrollo, el suministro, la implementación y el uso de sistemas de inteligencia artificial; los derechos y obligaciones de las organizaciones e individuos pertinentes; y la gestión estatal de las actividades de inteligencia artificial en Vietnam. Las actividades de inteligencia artificial destinadas exclusivamente a fines de defensa nacional, seguridad y criptografía no están contempladas en esta Ley.

Resultados de la votación para aprobar la Ley de Inteligencia Artificial. (Foto: DUY LINH)

4 principios fundamentales en las operaciones de inteligencia artificial

Según la ley aprobada recientemente por la Asamblea Nacional, las actividades de inteligencia artificial deben garantizar el cumplimiento de cuatro principios básicos, entre ellos:

Poner a las personas en el centro, garantizar los derechos humanos, los derechos a la privacidad, los intereses nacionales, los intereses públicos y la seguridad nacional; adheriéndonos a la Constitución y las leyes.

La inteligencia artificial sirve a la humanidad, no reemplaza la autoridad ni la responsabilidad humanas. Garantiza el mantenimiento del control humano y la capacidad de intervenir en todas las decisiones y comportamientos del sistema de inteligencia artificial; la seguridad del sistema, la seguridad de los datos y la confidencialidad de la información; y la capacidad de inspeccionar y supervisar el desarrollo y el funcionamiento del sistema.

Garantizar la equidad, la transparencia, la imparcialidad, la no discriminación y no causar daño a las personas ni a la sociedad; adherirse a los estándares éticos y valores culturales vietnamitas; y ser responsable de las decisiones y consecuencias del sistema.

Promover el desarrollo de inteligencia artificial verde, inclusiva y sostenible; fomentar el desarrollo y la aplicación de tecnologías de inteligencia artificial que sean eficientes energéticamente, ahorren recursos y reduzcan los impactos negativos sobre el medio ambiente.

Clasificación y gestión de sistemas de IA en función del riesgo.

La Ley de Inteligencia Artificial estipula la clasificación y gestión de los sistemas de inteligencia artificial según tres niveles de riesgo: alto, medio y bajo.

Los sistemas de inteligencia artificial de alto riesgo son aquellos que pueden causar daños significativos a la vida, la salud, los derechos e intereses legítimos de organizaciones e individuos, los intereses nacionales, los intereses públicos y la seguridad nacional;

Un sistema de inteligencia artificial de riesgo medio es aquel que tiene el potencial de confundir, influenciar o manipular a los usuarios porque son incapaces de reconocer que la entidad que interactúa es un sistema de inteligencia artificial o el contenido que genera;

Los sistemas de inteligencia artificial restantes son aquellos con bajo riesgo.

La clasificación de riesgo de los sistemas de inteligencia artificial se determina con base en criterios como el nivel de impacto sobre los derechos humanos, la seguridad y la protección; el área de uso del sistema, especialmente las áreas esenciales o directamente relacionadas con el interés público; el alcance de los usuarios; y la escala de influencia del sistema.

El ministro de Ciencia y Tecnología, Nguyen Manh Hung, presenta el informe sobre la aceptación, explicación y revisión del proyecto de ley ante la Asamblea Nacional. (Foto: DUY LINH)

Comportamientos prohibidos en operaciones de inteligencia artificial

La Ley de Inteligencia Artificial también estipula actos prohibidos en las actividades de inteligencia artificial, específicamente:

Explotar o secuestrar sistemas de inteligencia artificial para cometer actos ilegales y violar los derechos e intereses legítimos de organizaciones e individuos.

Desarrollar, proporcionar, implementar o utilizar sistemas de inteligencia artificial con el fin de: cometer actos prohibidos por la ley; utilizar personas o eventos reales falsificados o simulados para engañar o manipular la percepción y el comportamiento humanos de manera intencional y sistemática, causando daños graves a los derechos humanos y los intereses legítimos; explotar las debilidades de grupos vulnerables, incluidos niños, ancianos, personas con discapacidades, minorías étnicas o personas con capacidad civil deteriorada o limitada, o aquellas con dificultades cognitivas o problemas de control del comportamiento, para dañarse a sí mismos o a otros; crear o difundir contenido falsificado capaz de poner en grave peligro la seguridad nacional, el orden público y la seguridad social.

Recopilar, procesar o utilizar datos para desarrollar, entrenar, probar u operar sistemas de inteligencia artificial en violación de las leyes sobre datos, protección de datos personales, propiedad intelectual y ciberseguridad.

Obstruir, inutilizar o distorsionar los mecanismos humanos de monitoreo, intervención y control de los sistemas de inteligencia artificial previstos en esta Ley.

Ocultar información que debe ser divulgada, hecha pública o explicada; borrar o falsificar información obligatoria, etiquetas o advertencias en operaciones de inteligencia artificial.

Explotar actividades de investigación, prueba, evaluación o verificación relacionadas con sistemas de inteligencia artificial para realizar acciones que violen la ley.

Literatura

Fuente: https://nhandan.vn/cam-su-dung-he-thong-ai-tao-noi-dung-gia-mao-gay-nguy-hai-an-ninh-quoc-gia-post929261.html