Rechercher et développer des systèmes d’intelligence artificielle responsables.

Selon le ministère des Sciences et des Technologies , suivant la tendance mondiale, les systèmes d'intelligence artificielle sont considérés comme apportant de grands bénéfices aux citoyens, à la société et à l'économie vietnamienne, en soutenant et en résolvant les problèmes complexes auxquels sont confrontées les populations et les communautés. Parallèlement, il est nécessaire de rechercher et de mettre en place des mesures pour minimiser les risques liés au développement et à l'utilisation de l'intelligence artificielle, tout en conciliant les facteurs économiques, éthiques et juridiques. Par conséquent, les organismes spécialisés doivent rechercher et élaborer des normes et des lignes directrices pour guider le développement, même s'il s'agit de réglementations souples et non contraignantes.

Dans ses lignes directrices, le ministère des Sciences et de la Technologie définit neuf principes pour la recherche et le développement de systèmes d’intelligence artificielle responsables.

Premièrement, l’esprit de coopération et la promotion de l’innovation : les développeurs doivent prendre en compte la connectivité et l’interopérabilité entre leurs systèmes d’IA et d’autres systèmes d’IA en tenant compte de la diversité des systèmes pour améliorer les avantages du système, tout en améliorant la coordination pour contrôler les risques.

Deuxièmement, la transparence : les systèmes d’intelligence artificielle qui respectent ce principe sont souvent des systèmes susceptibles d’affecter la vie, le corps, la vie privée ou les biens des utilisateurs ou de tiers. Dans ce cas, les développeurs doivent veiller à identifier clairement les entrées et les sorties du système, ainsi qu’à leur explicabilité en fonction des caractéristiques de la technologie appliquée et de son utilisation, afin de garantir la confiance de la société, y compris des utilisateurs.

Troisièmement, la contrôlabilité : pour évaluer les risques liés à la contrôlabilité du système, les développeurs doivent procéder à une évaluation préalable afin de déterminer si le système répond aux exigences techniques et aux normes applicables. L'une des méthodes d'évaluation des risques consiste à effectuer des tests dans un espace séparé, doté de mesures de sécurité, avant de le mettre en œuvre.

Quatrièmement, le principe de sécurité : les développeurs doivent s’assurer que le système d’intelligence artificielle ne causera pas de dommages à la vie, au corps ou aux biens des utilisateurs ou de tiers, y compris par l’intermédiaire d’intermédiaires.

5. Principes de sécurité : En plus de se conformer aux documents, aux instructions et de mettre en œuvre les mesures de sécurité de l'information prescrites, les développeurs doivent prêter attention à des points tels que : la fiabilité et la résistance aux attaques physiques ou aux accidents du système ; la confidentialité ; l'intégrité ; et la disponibilité des informations nécessaires liées à la sécurité de l'information du système...

6. Confidentialité : Les développeurs doivent s’assurer que les systèmes d’IA ne portent pas atteinte à la vie privée des utilisateurs ou des tiers. La confidentialité comprend la confidentialité spatiale (tranquillité d’esprit dans la vie privée), la confidentialité des informations (données personnelles) et la confidentialité des communications. Les développeurs doivent appliquer la réglementation et les directives en vigueur ; les normes et directives internationales en matière de confidentialité peuvent être consultées.

Les développeurs doivent procéder à une évaluation préalable des risques et des impacts sur la vie privée. Dans la mesure du possible, ils doivent prendre des mesures adaptées aux caractéristiques de la technologie utilisée tout au long du processus de développement du système afin d'éviter toute atteinte à la vie privée lors de son utilisation.

Septièmement, respect des droits humains et de la dignité : Lors du développement de systèmes d’intelligence artificielle impliquant des êtres humains, les développeurs doivent veiller tout particulièrement à respecter les droits humains et la dignité des personnes concernées. Dans la mesure du possible, selon les caractéristiques de la technologie appliquée, les développeurs doivent prendre des mesures pour éviter toute discrimination et injustice due à des biais dans les données lors de l’apprentissage du système.

Les développeurs doivent prendre des précautions pour garantir que le système ne viole pas les valeurs humaines et l'éthique sociale selon les principes fondamentaux du Vietnam (par exemple, les valeurs telles que le patriotisme, la solidarité, l'autonomie, la loyauté, l'honnêteté, la responsabilité, la discipline, la créativité, etc.).

8ème, support utilisateur : Pour soutenir les utilisateurs, les développeurs de systèmes doivent prêter attention à des points tels que : Créer des interfaces prêtes à l'emploi pour fournir des informations opportunes et appropriées pour aider les utilisateurs à prendre des décisions et à les utiliser de manière pratique ; mettre en œuvre des mesures pour rendre le système plus facile à utiliser pour les personnes vulnérables de la société (les personnes âgées, les personnes handicapées)...

9. Responsabilité : Les développeurs doivent être responsables des systèmes qu’ils développent afin de garantir la confiance des utilisateurs. Plus précisément, ils doivent fournir aux utilisateurs des informations pour les aider à choisir et à utiliser le système. De plus, pour accroître l’acceptation sociale des systèmes, les développeurs doivent redoubler d’efforts : fournir aux utilisateurs des informations et des descriptions des spécifications techniques des systèmes qu’ils développent, des algorithmes, des mécanismes de sécurité, etc. ; écouter les avis et dialoguer avec les parties prenantes.

Source : https://nhandan.vn/nghien-cuu-phat-trien-cac-he-thong-tri-tue-nhan-tao-co-trach-nhiem-post814609.html