Vietnam tiene su primer conjunto de normas éticas de IA

Se espera que la Inteligencia Artificial (IA) aporte grandes beneficios a las personas, la sociedad y la economía vietnamita. Junto con la aplicación de la IA, Vietnam ha investigado y tomado medidas para minimizar los riesgos en el proceso de desarrollo y uso de la IA, equilibrando los factores económicos, éticos y legales.

Esta es también la razón por la que el Ministerio de Ciencia y Tecnología (MOST) emitió un conjunto de documentos que guían una serie de principios sobre la investigación y el desarrollo responsables de sistemas de inteligencia artificial.

El documento de orientación establece una serie de principios generales y recomendaciones voluntarias para su referencia y aplicación en el proceso de investigación, diseño, desarrollo y suministro de sistemas de inteligencia artificial.

Se alienta a las agencias científicas y tecnológicas, organizaciones, empresas e individuos dedicados a la investigación, diseño, desarrollo y suministro de sistemas de inteligencia artificial a aplicar este documento de orientación.

W-vien-han-lam-ilustracion-ai-tri-tue-nhan-tao-1.jpg
Modelos de robots de la Academia de Ciencia y Tecnología de Vietnam en la Exposición Internacional de Innovación de Vietnam 2023. Foto: Trong Dat

En consecuencia, la investigación y el desarrollo de sistemas de IA en Vietnam deben basarse en el punto de vista fundamental de avanzar hacia una sociedad centrada en el ser humano, donde todos disfruten de los beneficios de la inteligencia artificial, garantizando un equilibrio razonable entre beneficios y riesgos.

Las actividades de investigación y desarrollo de sistemas de IA en Vietnam buscan garantizar la neutralidad tecnológica. En todos los casos, el Ministerio de Ciencia y Tecnología fomenta el intercambio y el debate con la participación de las partes interesadas. Se seguirán investigando y actualizando los principios y directrices para adaptarlos a la situación práctica.

El Ministerio de Ciencia y Tecnología afirmó que la publicación del documento busca promover el interés en la investigación, el desarrollo y el uso de la inteligencia artificial en Vietnam de forma segura y responsable, minimizando el impacto negativo en las personas y la comunidad. Esto aumentará la confianza de los usuarios y de la sociedad en la IA y facilitará la investigación y el desarrollo de la inteligencia artificial en Vietnam.

Principios para el desarrollo responsable de la IA

En el documento, se anima a los desarrolladores a demostrar un espíritu de colaboración, promoviendo la innovación mediante la conexión e interacción de los sistemas de inteligencia artificial. Los desarrolladores deben garantizar la transparencia controlando la entrada y salida de los sistemas de IA y la capacidad de explicar los análisis relevantes.

Los desarrolladores deben prestar atención a la capacidad de controlar los sistemas de inteligencia artificial y evaluar los riesgos con antelación. Una forma de evaluar los riesgos es realizar pruebas en un espacio separado, como un laboratorio o un entorno donde la seguridad esté garantizada, antes de ponerlas en práctica.

Además, para garantizar la controlabilidad de los sistemas de IA, los desarrolladores deben prestar atención al monitoreo del sistema (con herramientas de evaluación/monitoreo o corrección/actualización basadas en la retroalimentación del usuario) y a las medidas de respuesta (apagado del sistema, apagado de la red, etc.) realizadas por humanos o sistemas de IA confiables.

Robot IA IA Anan 3.jpg
Un joven le hace una pregunta al robot de inteligencia artificial Anan, desarrollado por ingenieros vietnamitas. Foto: Trong Dat

Los desarrolladores deben garantizar que el sistema de IA no cause daños a la vida, la integridad física ni a la propiedad de los usuarios ni de terceros, incluso a través de intermediarios; deben prestar atención a la seguridad, la fiabilidad y la capacidad del sistema para resistir ataques físicos o accidentes; y deben garantizar que el sistema de IA no viole la privacidad de los usuarios ni de terceros. Los derechos de privacidad mencionados en este principio incluyen el derecho a la privacidad del espacio (paz en la vida privada), el derecho a la privacidad de la información (datos personales) y la confidencialidad de las comunicaciones.

Al desarrollar sistemas de inteligencia artificial, los desarrolladores deben prestar especial atención al respeto de los derechos humanos y la dignidad. En la medida de lo posible, dependiendo de las características de la tecnología aplicada, deben tomar medidas para garantizar que no se produzca discriminación ni injusticia debido a sesgos (prejuicios) en los datos de entrenamiento. Además, deben asumir su responsabilidad con las partes interesadas y brindar apoyo a los usuarios.

El periodismo de la era 4.0 no debería perderse el tren de alta velocidad de la IA . En lugar de dudar y temerle a la IA, los periodistas deberían incorporarla proactivamente a las operaciones de las redacciones.