Selon le ministère des Sciences et des Technologies , suivant la tendance mondiale, les systèmes d'intelligence artificielle sont considérés comme apportant de grands avantages aux citoyens, à la société et à l'économie vietnamienne en soutenant et en résolvant les problèmes complexes auxquels sont confrontés les citoyens et les communautés. Parallèlement, il est nécessaire de rechercher et de mettre en place des mesures pour minimiser les risques liés au développement et à l'utilisation de l'intelligence artificielle et concilier les facteurs économiques, éthiques et juridiques. Par conséquent, les organismes spécialisés doivent rechercher et élaborer des normes et des lignes directrices d'orientation, même s'il s'agit de réglementations souples et non contraignantes.
Dans ses lignes directrices, le ministère des Sciences et de la Technologie définit neuf principes pour une recherche et un développement responsables des systèmes d’intelligence artificielle.
Premièrement, il y a l’esprit de coopération, qui favorise l’innovation : les développeurs doivent prendre en compte la connectivité et l’interopérabilité entre leurs systèmes d’intelligence artificielle et d’autres systèmes d’intelligence artificielle en considérant la diversité des systèmes pour améliorer les avantages du système, tout en améliorant la coordination pour contrôler les risques.
Deuxièmement, la transparence : les systèmes d’IA conformes à ce principe sont souvent susceptibles d’affecter la vie, le corps, la vie privée ou les biens des utilisateurs ou de tiers. Dans ce cas, les développeurs doivent veiller à identifier clairement les entrées et les sorties du système, ainsi qu’à leur explicabilité, en fonction des caractéristiques de la technologie appliquée et de son utilisation, afin de garantir la confiance de la société, y compris des utilisateurs.
Troisièmement, la contrôlabilité : pour évaluer les risques liés à la contrôlabilité du système, les développeurs doivent procéder à une évaluation préalable afin de déterminer si le système répond aux exigences techniques et aux normes applicables. L’une des méthodes d’évaluation des risques consiste à effectuer des tests dans un espace séparé, avec des mesures de sécurité en place, avant la mise en œuvre.
Quatrièmement, le principe de sécurité : les développeurs doivent s’assurer que le système d’intelligence artificielle ne causera pas de dommages à la vie, au corps ou aux biens des utilisateurs ou de tiers, y compris par l’intermédiaire d’intermédiaires.
Cinquièmement, les principes de sécurité : en plus de se conformer aux documents, aux instructions et de mettre en œuvre les mesures de sécurité de l'information prescrites, les développeurs doivent prêter attention à des points tels que : la fiabilité et la résistance aux attaques physiques ou aux accidents du système ; la confidentialité ; l'intégrité ; et la disponibilité des informations nécessaires liées à la sécurité de l'information du système...
6. Confidentialité : Les développeurs doivent s’assurer que les systèmes d’IA ne portent pas atteinte à la vie privée des utilisateurs ou des tiers. La confidentialité comprend la confidentialité spatiale (tranquillité d’esprit dans la vie privée), la confidentialité des informations (données personnelles) et la confidentialité des communications. Les développeurs doivent appliquer les réglementations et directives en vigueur ; les normes et directives internationales en matière de confidentialité peuvent être consultées.
Les développeurs doivent procéder à une évaluation préalable des risques et des impacts sur la vie privée. Dans la mesure du possible, ils doivent prendre des mesures adaptées aux caractéristiques de la technologie utilisée tout au long du processus de développement du système afin d'éviter toute atteinte à la vie privée lors de son utilisation.
Septièmement, respect des droits humains et de la dignité humaine : Lors du développement de systèmes d’intelligence artificielle impliquant des êtres humains, les développeurs doivent veiller tout particulièrement à respecter les droits humains et la dignité des personnes concernées. Dans la mesure du possible, selon les caractéristiques de la technologie appliquée, les développeurs doivent prendre des mesures pour garantir qu’ils ne causent pas de discrimination ou d’injustice en raison de biais dans les données lors de l’entraînement du système.
Les développeurs doivent prendre des précautions pour garantir que le système ne viole pas les valeurs humaines et l'éthique sociale selon les principes fondamentaux du Vietnam (par exemple, des valeurs telles que le patriotisme, la solidarité, l'autonomie, la loyauté, l'honnêteté, la responsabilité, la discipline, la créativité, etc.).
8ème, support utilisateur : Pour soutenir les utilisateurs, les développeurs de systèmes doivent prêter attention à des points tels que : Créer des interfaces prêtes à l'emploi pour fournir des informations opportunes et appropriées pour aider les utilisateurs à prendre des décisions et à utiliser facilement ; mettre en œuvre des mesures pour rendre le système plus facile à utiliser pour les personnes vulnérables de la société (personnes âgées, handicapées)...
9. Responsabilité : Les développeurs doivent être responsables des systèmes qu’ils développent afin de garantir la confiance des utilisateurs. Plus précisément, ils doivent fournir aux utilisateurs des informations pour les aider à choisir et à utiliser le système. De plus, pour accroître l’acceptation sociale des systèmes, les développeurs doivent faire davantage : fournir aux utilisateurs des informations et des descriptions des caractéristiques techniques des systèmes qu’ils développent, des algorithmes, des mécanismes de sécurité, etc. ; écouter les avis et dialoguer avec les parties prenantes.
Source : https://nhandan.vn/nghien-cuu-phat-trien-cac-he-thong-tri-tue-nhan-tao-co-trach-nhiem-post814609.html
Comment (0)