9 principios para la investigación y el desarrollo responsables de IA

Foto ilustrativa. Fuente: VNA

En consecuencia, se alienta a las agencias científicas y tecnológicas, organizaciones, empresas e individuos involucrados en la investigación, el diseño, el desarrollo y el suministro de sistemas de IA a aplicar el contenido del documento de orientación.

Se proponen nueve principios para la investigación y el desarrollo responsables de sistemas de IA, entre ellos: espíritu de cooperación, promoción de la innovación; transparencia; controlabilidad; seguro; seguridad; privacidad; respeto de los derechos humanos y la dignidad; soporte al usuario; responsabilidad

Cada principio tiene instrucciones para su implementación. Por ejemplo, con respecto a la transparencia, los desarrolladores deben prestar atención al control de las entradas/salidas del sistema de IA y la capacidad de explicar análisis relevantes. En consecuencia, los sistemas de IA que cumplen este principio suelen ser sistemas que pueden afectar la vida, el cuerpo, la privacidad o la propiedad de los usuarios o de terceros relevantes.

Los desarrolladores deben prestar atención a la capacidad de identificar claramente las entradas y salidas de los sistemas de IA, así como la explicabilidad relacionada en función de las características de la tecnología aplicada y cómo se utilizan para garantizar la confianza de la sociedad, incluidos los usuarios.

En cuanto al principio de respeto a los derechos humanos y la dignidad, al desarrollar sistemas de IA que involucran a humanos, los desarrolladores deben prestar especial atención a respetar los derechos humanos y la dignidad de los individuos involucrados.

En la medida de lo posible, dependiendo de las características de la tecnología aplicada, los desarrolladores deben tomar medidas para garantizar que no provoquen discriminación o injusticia debido a sesgos (prejuicios) en los datos al entrenar los sistemas de IA.

Los desarrolladores deben tomar precauciones para garantizar que los sistemas de IA no violen los valores humanos y la ética social de acuerdo con los principios fundamentales de Vietnam (por ejemplo, valores que incluyen patriotismo, solidaridad, autosuficiencia, lealtad, honestidad, responsabilidad, disciplina, creatividad, etc.).

Se sabe que los resultados de la evaluación y el anuncio en el informe "Índice de preparación de inteligencia artificial del gobierno" realizado por Oxford Insight, en 2023, Vietnam ascendió al quinto lugar en la ASEAN, superando a Filipinas (después de Singapur, Malasia, Tailandia, Indonesia). En 2023, la puntuación media de Vietnam alcanzó los 54,48 puntos (en 2022 fue 53,96 y en 2021 fue 51,82 puntos), superando la media mundial , situándose en el puesto 59 entre más de 193 países y territorios (en 2022 ocupaba el puesto 55 entre 181 países y territorios).

Según el Ministerio de Ciencia y Tecnología , en el contexto actual, es necesario investigar y tomar medidas para minimizar los riesgos en el proceso de desarrollo y uso de la IA y equilibrar los factores económicos, éticos y legales relacionados. Por lo tanto, las agencias profesionales necesitan investigar y desarrollar estándares y pautas de orientación, incluso si son regulaciones blandas y no vinculantes.

Además, compartir e intercambiar información sobre procesos y buenas prácticas entre las partes interesadas (como desarrolladores, proveedores de servicios, usuarios) también promoverá el consenso para aumentar los beneficios de los sistemas de IA y controlar los riesgos.

El Ministerio de Ciencia y Tecnología ha estudiado proactivamente las experiencias de otros países y las recomendaciones de organizaciones como la UNESCO, la ONU, la ASEAN, el G7, el G20, etc. para desarrollar recomendaciones, herramientas y regulaciones sobre ética en IA, y desarrollar productos de IA responsables (desde la investigación, el diseño, el desarrollo y la implementación de productos de IA) de acuerdo con las prácticas y regulaciones actuales en Vietnam.

  El viceministro de Ciencia y Tecnología, Bui The Duy, también dijo que el desarrollo de directrices para la investigación y el desarrollo responsables de IA en Vietnam debe seguir de cerca los objetivos de una sociedad centrada en el ser humano, donde las personas disfruten de los beneficios de la vida y de los sistemas de IA. Al mismo tiempo, garantizar un equilibrio razonable entre los beneficios y los riesgos de los sistemas de IA, específicamente: Promover los beneficios de la IA mediante actividades de investigación, desarrollo e innovación; y minimizar el riesgo de vulneración de los derechos o intereses legítimos de organizaciones e individuos por parte de los sistemas de IA.

Garantizar que las actividades de investigación y desarrollo de sistemas de IA se basen en tecnologías o técnicas específicas, garantizando al mismo tiempo la neutralidad tecnológica y que los desarrolladores no se vean afectados por el rápido desarrollo de tecnologías relacionadas con la IA en el futuro.

El Ministerio de Ciencia y Tecnología también dijo que los principios y directrices continuarán siendo investigados y actualizados para adaptarse a la situación práctica.

Fuente: https://dangcongsan.vn/khoa-hoc/9-nguyen-tac-nghien-cuu-phat-trien-he-thong-ai-co-trach-nhiem-667349.html