Les délégués de l'Assemblée nationale provinciale discutent en groupes du projet de loi sur l'intelligence artificielle

Lors de son intervention, la déléguée Vuong Thi Huong a déclaré que l'intelligence artificielle (IA) est devenue la technologie de pointe de la quatrième révolution industrielle, offrant de nombreuses opportunités de développement socio-économique , mais posant également de nombreux défis en matière de gestion, d'éthique et de sécurité, défis que la réglementation actuelle ne couvre pas pleinement. Les délégués se sont accordés sur la nécessité de promulguer un projet de loi sur l'intelligence artificielle afin de créer un cadre juridique propice au développement de l'IA, de promouvoir l'innovation, de renforcer la compétitivité nationale et, simultanément, de gérer les risques et de protéger les intérêts nationaux et les droits humains.

La déléguée Vuong Thi Huong prend la parole lors de la discussion.

Concernant le champ d'application de la réglementation et les personnes concernées, le délégué a souligné qu'il s'agit d'une disposition fondamentale, déterminant les sujets et le champ d'application de l'ensemble de la loi. Le champ d'application de la loi encadre les activités de « recherche, développement, fourniture, déploiement et utilisation » des systèmes d'intelligence artificielle. Toutefois, les personnes concernées ne mentionnent que les organisations et les personnes physiques exerçant des activités de « développement, fourniture, déploiement et utilisation » de ces systèmes, sans faire mention des activités de « recherche ». Ceci pourrait laisser croire que les entités menant des recherches fondamentales sur l'intelligence artificielle, malgré certains risques potentiels, ne relèvent pas du champ d'application de la loi. Le délégué a proposé d'ajouter le terme « recherche » à l'article 2 afin d'assurer la cohérence avec l'article 1 .

Concernant l'interprétation du terme « modèle d'intelligence artificielle généraliste open source » , le projet de loi prévoit que ce modèle est diffusé sous une licence autorisant les organisations et les particuliers à accéder, utiliser, modifier et redistribuer librement ses composants essentiels, notamment le code source, les paramètres du modèle et les données d'entraînement. Les délégués ont recommandé de préciser le contenu de cette licence, en la définissant clairement comme étant la licence originale délivrée par le propriétaire du modèle. Le droit vietnamien ne réglemente que le cadre de gestion et ne modifie, n'étend ni ne remplace les droits de propriété intellectuelle du titulaire. Toute modification, intégration ou redistribution du modèle non prévue par la licence originale requiert l'autorisation écrite du titulaire des droits.

Concernant la politique de développement de l'écosystème et du marché de l'intelligence artificielle, le délégué a indiqué que, dans le contexte du développement rapide de l'IA, si le terme « système d'intelligence artificielle de nouvelle génération » n'est pas clairement défini, il sera difficile d'identifier les sujets prioritaires et les bénéficiaires des politiques de soutien, de déterminer le périmètre de la gestion des risques et d'établir des critères d'évaluation et d'approbation pour les organismes d'État. Le délégué a suggéré d'ajouter une explication à ce terme afin de clarifier le concept de « système d'intelligence artificielle de nouvelle génération ».

Concernant le concept et la responsabilité du développeur d'un modèle d'intelligence artificielle généraliste, le délégué a indiqué que cette disposition est conforme aux pratiques actuelles de développement de l'IA et qu'il est nécessaire de définir clairement les responsabilités respectives du développeur du modèle et du développeur de l'application afin d'éviter tout chevauchement de responsabilités juridiques. Cependant, le projet de loi stipule seulement que le développeur est responsable de la « transparence de base », sans préciser ce que recouvrent ces deux notions, ni ce qu'est une transparence renforcée. Or, l'exigence de transparence est essentielle pour évaluer la responsabilité, la sécurité et la conformité à la loi. Le délégué a donc recommandé de clarifier le concept et les critères de la « transparence de base ».

Concernant la gestion des systèmes d'intelligence artificielle à haut risque, les délégués ont indiqué que le projet de règlement relatif à la classification et à la gestion des risques ne précise pas encore l'organisme responsable de cette gestion dans chaque domaine spécifique. Plus précisément, dans le secteur de la santé, si la coordination générale est confiée à l'agence de gestion des technologies de l'information sans que le rôle du secteur de la santé soit clairement défini, cela pourrait entraîner des chevauchements dans les évaluations, un manque d'uniformité des normes professionnelles et des difficultés de gestion des produits d'intelligence artificielle utilisés comme dispositifs médicaux ou appliqués aux examens et traitements médicaux. Les délégués ont proposé d'ajouter un règlement confiant au ministère de la Santé la responsabilité de la gestion des systèmes d'intelligence artificielle à haut risque dans le secteur de la santé.

Concernant la responsabilité en matière de transparence, d'étiquetage et de redevabilité, le délégué a indiqué que le projet de loi ne couvre pas le domaine médical , alors qu'il s'agit d'un domaine spécifique, à haut risque, directement lié à la vie et à la santé des personnes. Actuellement, de nombreux systèmes d'IA sont utilisés pour faciliter le diagnostic, analyser les images médicales, suggérer des protocoles de traitement et fournir des soins de santé à distance. Si les utilisateurs ne sont pas clairement informés que l'information est générée par une IA, cela peut entraîner un risque d'abus, de confiance aveugle ou de confusion avec les instructions professionnelles du médecin, avec des conséquences médicales graves. Afin de garantir la transparence pour les patients et les médecins, il est essentiel de préciser que l'information est générée par une IA et non qu'il s'agit de recommandations professionnelles humaines. Il convient également de renforcer la traçabilité et la redevabilité en cas d'erreurs médicales liées à l'IA. Le délégué a proposé d'ajouter un alinéa après le point b, paragraphe 3, de l'article 9 : « c. L'étiquetage est effectué sur le contenu généré par les systèmes d'intelligence artificielle à des fins d'alerte, d'aide à la décision clinique dans le domaine des soins de santé ou de prestation de services de santé. »

En outre, la déléguée Vuong Thi Huong a également formulé des observations sur de nombreux points du projet de loi, notamment : la publication d’une liste des principaux ensembles de données nécessaires au développement de l’intelligence artificielle ; les politiques de développement de l’écosystème et du marché de l’intelligence artificielle ; la clarification des concepts de « produits d’intelligence artificielle » et de « services d’intelligence artificielle »…

Comment (0)