9 principios para la investigación y el desarrollo responsables de IA

Foto ilustrativa. Fuente: VNA

En consecuencia, se alienta a las agencias científicas y tecnológicas, organizaciones, empresas e individuos involucrados en la investigación, el diseño, el desarrollo y el suministro de sistemas de IA a aplicar el contenido del documento de orientación.

Los nueve principios para la investigación y el desarrollo responsables de IA incluyen: colaboración, innovación, transparencia, control, seguridad, privacidad, respeto por los derechos humanos y la dignidad, apoyo al usuario y responsabilidad.

Cada principio tiene sus propias directrices de implementación. Por ejemplo, para garantizar la transparencia, los desarrolladores deben prestar atención al control de la entrada/salida del sistema de IA y a la capacidad de explicar el análisis pertinente. Por consiguiente, los sistemas de IA que cumplen con este principio suelen ser sistemas que pueden afectar la vida, la integridad física, la privacidad o la propiedad de los usuarios o de terceros relacionados.

Los desarrolladores deben prestar atención a la capacidad de identificar claramente las entradas y salidas de los sistemas de IA, así como la explicabilidad relacionada en función de las características de la tecnología aplicada y cómo se utilizan para garantizar la confianza de la sociedad, incluidos los usuarios.

En cuanto al principio de respeto a los derechos humanos y la dignidad, al desarrollar sistemas de IA que involucran a humanos, los desarrolladores deben prestar especial atención a respetar los derechos humanos y la dignidad de los individuos involucrados.

En la medida de lo posible, dependiendo de las características de la tecnología aplicada, los desarrolladores deben tomar medidas para garantizar que no provoquen discriminación o injusticia debido a sesgos (prejuicios) en los datos al entrenar los sistemas de IA.

Los desarrolladores deben tomar precauciones para garantizar que los sistemas de IA no violen los valores humanos y la ética social de acuerdo con los principios fundamentales de Vietnam (por ejemplo, valores que incluyen patriotismo, solidaridad, autosuficiencia, lealtad, honestidad, responsabilidad, disciplina, creatividad, etc.).

Según los resultados de la evaluación y el anuncio del informe "Índice de Preparación de la IA Gubernamental", realizado por Oxford Insight, en 2023 Vietnam ascendió al quinto puesto en la ASEAN, superando a Filipinas (después de Singapur, Malasia, Tailandia e Indonesia). En 2023, Vietnam obtuvo una puntuación media de 54,48 puntos (en 2022 fue de 53,96 y en 2021 de 51,82), superando la media mundial y ocupando el puesto 59 entre más de 193 países y territorios (en 2022 ocupó el puesto 55 entre 181 países y territorios).

Según el Ministerio de Ciencia y Tecnología , en el contexto actual, es necesario investigar y tomar medidas para minimizar los riesgos en el proceso de desarrollo y uso de la IA, así como para equilibrar los factores económicos, éticos y legales relacionados. Por lo tanto, los organismos especializados deben investigar y desarrollar normas y directrices que sirvan de orientación, incluso si se trata de regulaciones flexibles y no vinculantes.

Además, compartir e intercambiar información sobre procesos y buenas prácticas entre las partes interesadas (como desarrolladores, proveedores de servicios, usuarios) también promoverá el consenso para aumentar los beneficios de los sistemas de IA y controlar los riesgos.

El Ministerio de Ciencia y Tecnología ha estudiado proactivamente las experiencias de otros países y las recomendaciones de organizaciones como la UNESCO, la ONU, la ASEAN, el G7, el G20, etc. para desarrollar recomendaciones, herramientas y regulaciones sobre ética en IA, y desarrollar productos de IA responsables (desde la investigación, el diseño, el desarrollo y la implementación de productos de IA) de acuerdo con las prácticas y regulaciones actuales en Vietnam.

  El viceministro de Ciencia y Tecnología, Bui The Duy, también afirmó que el desarrollo de directrices para la investigación y el desarrollo responsables de IA en Vietnam debe seguir de cerca los objetivos de una sociedad centrada en el ser humano, donde las personas disfruten de los beneficios de la vida y de los sistemas de IA. Al mismo tiempo, debe garantizarse un equilibrio razonable entre los beneficios y los riesgos de los sistemas de IA, en particular: promover los beneficios de la IA mediante actividades de investigación, desarrollo e innovación; y minimizar el riesgo de vulneración de los derechos o intereses legítimos de organizaciones e individuos a causa de los sistemas de IA.

Garantizar que las actividades de investigación y desarrollo de sistemas de IA se basen en tecnologías o técnicas específicas, garantizando al mismo tiempo la neutralidad tecnológica y que los desarrolladores no se vean afectados por el rápido desarrollo de tecnologías relacionadas con la IA en el futuro.

El Ministerio de Ciencia y Tecnología también dijo que los principios y directrices continuarán siendo investigados y actualizados para adaptarse a la situación práctica.

Fuente: https://dangcongsan.vn/khoa-hoc/9-nguyen-tac-nghien-cuu-phat-trien-he-thong-ai-co-trach-nhiem-667349.html