9 principes pour une recherche et un développement responsables en matière d'IA

Photo d'illustration. Source : VNA

En conséquence, les agences scientifiques et technologiques, les organisations, les entreprises et les particuliers engagés dans la recherche, la conception, le développement et la fourniture de systèmes d’IA sont encouragés à appliquer le contenu du document d’orientation.

Neuf principes pour une recherche et un développement responsables des systèmes d’IA sont proposés, notamment : l’esprit de coopération, la promotion de l’innovation ; transparence; contrôlabilité; sûr; sécurité; confidentialité; le respect des droits de l’homme et de la dignité humaine ; support utilisateur; responsabilité

Chaque principe est accompagné d’instructions de mise en œuvre. Par exemple, en ce qui concerne la transparence, les développeurs doivent prêter attention au contrôle des entrées/sorties du système d’IA et à la capacité d’expliquer les analyses pertinentes. En conséquence, les systèmes d’IA qui respectent ce principe sont généralement des systèmes qui peuvent affecter la vie, le corps, la vie privée ou la propriété des utilisateurs ou des tiers concernés.

Les développeurs doivent ensuite prêter attention à la capacité d’identifier clairement les entrées et les sorties des systèmes d’IA ainsi que l’explicabilité associée en fonction des caractéristiques de la technologie appliquée et de la manière dont elles sont utilisées pour garantir la confiance de la société, y compris des utilisateurs.

Ou, en ce qui concerne le principe de respect des droits de l’homme et de la dignité humaine, lors du développement de systèmes d’IA impliquant des humains, les développeurs doivent accorder une attention particulière au respect des droits de l’homme et de la dignité des personnes impliquées.

Dans la mesure du possible, en fonction des caractéristiques de la technologie appliquée, les développeurs doivent prendre des mesures pour garantir qu’ils ne provoquent pas de discrimination ou d’injustice en raison de biais (préjugés) dans les données lors de la formation des systèmes d’IA.

Les développeurs doivent prendre des précautions pour garantir que les systèmes d'IA ne violent pas les valeurs humaines et l'éthique sociale conformément aux principes fondamentaux du Vietnam (par exemple, des valeurs telles que le patriotisme, la solidarité, l'autonomie, la loyauté, l'honnêteté, la responsabilité, la discipline, la créativité, etc.).

Il est connu que les résultats de l'évaluation et l'annonce dans le rapport « Government AI Readiness Index » réalisé par Oxford Insight, en 2023, le Vietnam est passé à la 5e place de l'ASEAN, surpassant les Philippines (après Singapour, la Malaisie, la Thaïlande, l'Indonésie). En 2023, le score moyen du Vietnam a atteint 54,48 points (en 2022, il était de 53,96 et en 2021, il était de 51,82 points), dépassant la moyenne mondiale , se classant 59e sur plus de 193 pays et territoires (en 2022, il était classé 55e sur 181 pays et territoires).

Selon le ministère des Sciences et de la Technologie , dans le contexte actuel, il est nécessaire de rechercher et de prendre des mesures pour minimiser les risques dans le processus de développement et d'utilisation de l'IA et d'équilibrer les facteurs économiques, éthiques et juridiques qui y sont liés. Les agences professionnelles doivent donc rechercher et élaborer des normes et des lignes directrices pour les guider, même s’il s’agit de réglementations souples et non contraignantes.

En outre, le partage et l’échange d’informations sur les processus et les bonnes pratiques entre les parties prenantes (telles que les développeurs, les fournisseurs de services, les utilisateurs) favoriseront également le consensus pour accroître les avantages des systèmes d’IA et contrôler les risques.

Le ministère des Sciences et de la Technologie a étudié de manière proactive les expériences d'autres pays et les recommandations d'organisations telles que l'UNESCO, l'ONU, l'ASEAN, le G7, le G20, etc. pour élaborer des recommandations, des outils et des réglementations sur l'éthique de l'IA, et développer des produits d'IA responsables (à partir de la recherche, de la conception, du développement et du déploiement de produits d'IA) conformément aux pratiques et réglementations en vigueur au Vietnam.

  Le vice-ministre des Sciences et de la Technologie, Bui The Duy, a également déclaré que l'élaboration de lignes directrices pour une recherche et un développement responsables de l'IA au Vietnam doit suivre de près les objectifs d'une société centrée sur l'humain, où les gens bénéficient des avantages de la vie ainsi que des systèmes d'IA. Parallèlement, il faut assurer un équilibre raisonnable entre les avantages et les risques des systèmes d’IA, notamment : Promouvoir les avantages de l’IA par le biais d’activités de recherche, de développement et d’innovation ; et minimiser le risque de violation des droits ou intérêts légitimes des organisations et des individus par les systèmes d’IA.

Veiller à ce que les activités de recherche et développement pour les systèmes d’IA soient basées sur des technologies ou des techniques spécifiques tout en garantissant la neutralité technologique et que les développeurs ne soient pas affectés par le développement rapide des technologies liées à l’IA à l’avenir.

Le ministère des Sciences et de la Technologie a également déclaré que les principes et les lignes directrices continueront d'être étudiés et mis à jour pour s'adapter à la situation pratique.

Source : https://dangcongsan.vn/khoa-hoc/9-nguyen-tac-nghien-cuu-phat-trien-he-thong-ai-co-trach-nhiem-667349.html