Projet de loi sur l'intelligence artificielle : l'IA en médecine doit être inspectée comme les dispositifs médicaux.

Étant donné que les soins de santé constituent un domaine sensible et à haut risque qui nécessite un contrôle strict, y compris l'application de l'IA, certains délégués ont suggéré que le projet de loi sur l'intelligence artificielle étudie des réglementations stipulant que l'IA dans les soins de santé doit être inspectée comme les dispositifs médicaux.

Scène de la séance de discussion dans le hall concernant le projet de loi sur l'intelligence artificielle

Gestion des produits d'IA pour le secteur de la santé

En tant que déléguée travaillant dans le secteur de la santé, la députée de l'Assemblée nationale Tran Khanh Thu ( Hung Yen ) a grandement apprécié les impacts de l'intelligence artificielle (IA) dans le secteur de la santé - l'un des domaines ayant le plus grand potentiel d'application de l'IA, avec des impacts clairs sur le processus de diagnostic, de traitement, de gestion des patients ainsi que sur la recherche et le développement pharmaceutiques.

Récemment, à Hô Chi Minh -Ville, une patiente de 55 ans a été admise aux urgences dans un état de léthargie et désorientée. Sa fille, l'ayant déjà vue souffrir de vertiges et de difficultés respiratoires, a demandé à l'intelligence artificielle d'établir un diagnostic. Les résultats ont révélé une hypertension artérielle.

Le député de l'Assemblée nationale Tran Khanh Thu (Hung Yen) prend la parole

Le délégué a raconté que le fils avait pris la tension de sa mère et constaté une forte hausse. Il s'était donc rendu à la pharmacie pour lui acheter des médicaments. Mais après la prise du médicament, l'état de sa mère s'est aggravé : elle s'est sentie très fatiguée, a beaucoup vomi et a perdu connaissance. Il l'a alors emmenée aux urgences. À l'hôpital, le médecin a confirmé qu'elle avait subi un AVC et des lésions cérébrales. Bien qu'elle ait échappé à la mort, les séquelles étaient inévitables.

Le délégué a déclaré sans ambages qu'Internet est très populaire de nos jours, et notamment l'IA, une excellente source d'information pour les patients souhaitant en savoir plus sur leur maladie… Cependant, il est absolument interdit d'utiliser ces résultats pour rechercher, diagnostiquer ou prescrire des médicaments soi-même – et les personnes qui vendent des médicaments sur la base de prescriptions d'IA enfreignent-elles la loi ? – a soulevé la question.

Le délégué a également souligné l'absence d'un cadre juridique spécifique et complet pour l'application de l'IA dans le domaine de la santé. Si des lois telles que la loi sur les examens et traitements médicaux ou la loi sur la pharmacie encadrent les activités d'examen et de traitement médicaux ainsi que les produits médicaux, la réglementation spécifique des produits médicaux utilisant l'IA reste encore floue.

De plus, les produits d'examen et de traitement médical basés sur l'IA restent soumis aux procédures d'autorisation générales applicables aux dispositifs médicaux, faute de normes et de réglementations spécifiques à l'IA pour ces produits.

Délégués participant à la séance de discussion

« De plus, certaines questions telles que la responsabilité juridique en cas d’erreurs d’IA et la sécurité des données médicales et la sécurité des patients ne sont pas clairement réglementées dans les textes de loi actuels », a souligné le délégué.

Compte tenu de ce qui précède, le délégué Tran Khanh Thu espère que le projet de loi sur l'intelligence artificielle comportera des dispositions, des termes et des cadres juridiques plus précis pour gérer les produits d'IA destinés aux soins de santé, notamment en ce qui concerne les responsabilités des parties concernées.

Étant donné que le secteur de la santé est un domaine sensible et à haut risque, l'utilisation de l'IA doit être strictement encadrée. Le député à l'Assemblée nationale, Le Van Kham (Hô-Chi-Minh-Ville), a suggéré d'étudier la réglementation et de soumettre l'IA en santé à des inspections similaires à celles des dispositifs médicaux. Des inspections obligatoires sont prévues pour l'IA d'aide à la décision clinique, notamment pour le diagnostic, la prédiction du risque de décès ou de complications, les robots chirurgicaux utilisant l'IA et l'aide à la prescription ou au traitement.

Par ailleurs, les délégués ont suggéré d'instaurer une réglementation sur le suivi de la diffusion de l'IA dans le secteur de la santé afin de garantir la sécurité des patients. Cette réglementation devrait notamment prévoir des obligations de déclaration périodique, d'alerte rapide en cas d'incident, d'audit des algorithmes et de surveillance des erreurs en temps réel. Une fois cette réglementation intégrée à la loi, l'autorité compétente publiera des décrets d'application pour sa mise en œuvre et élaborera des outils de gestion et des mesures appropriées pour la gouvernance de l'IA médicale.

Vue de la réunion. Photo : Quang Khanh

Dans le même temps, l'organisme rédacteur doit examiner attentivement la possibilité de permettre aux fournisseurs d'auto-évaluer les risques liés à l'IA dans le domaine médical, comme le prévoit l'article 9 du projet de loi, a suggéré le délégué Le Van Kham.

Évaluation de l'impact sur les données des déploiements d'IA à haut risque

Soulignant que la classification des risques est au cœur de la loi sur l'intelligence artificielle, le député Thach Phuoc Binh (Vinh Long) a fait remarquer que le projet de loi ne prévoit pas encore de critères de classification quantitatifs. La liste des systèmes d'IA à haut risque est réglementée de manière relativement large, incluant des domaines où aucun risque significatif n'a été constaté dans la pratique. Ceci pourrait engendrer des contraintes de conformité inutiles, notamment pour les petites et moyennes entreprises.

Le député à l'Assemblée nationale Thach Phuoc Binh (Vinh Long) prend la parole. Photo : Pham Thang

Par conséquent, les délégués ont suggéré de revoir la liste des systèmes à haut risque afin de ne retenir que ceux susceptibles d'avoir un impact majeur sur les droits humains, la vie privée, la santé, la finance et la sécurité sociale. Parallèlement, il convient de mettre en place un mécanisme permettant d'actualiser cette liste de manière flexible, en concertation avec des experts, des associations professionnelles et des organismes de recherche. Enfin, il est recommandé d'associer des critères de risque aux caractéristiques techniques du modèle, telles que l'automatisation, la capacité d'apprentissage automatique, l'imprévisibilité et l'échelle d'utilisation.

Concernant les données, la vie privée et la protection des utilisateurs, le député Thach Phuoc Binh a déclaré que les données sont le « carburant » de l'IA, mais que les dispositions actuelles du projet de loi ne sont pas conformes à la loi sur la protection des données personnelles. Il est nécessaire de préciser le niveau de traitement autorisé pour les données sensibles, les données relatives aux enfants et les données biométriques. Parallèlement, il est indispensable d'ajouter l'obligation d'évaluer l'impact sur les données lors du déploiement d'IA à haut risque.

Pour les utilisateurs d'IA, le projet de loi mentionne certains droits fondamentaux, mais il lui manque encore des droits importants, conformes aux normes internationales, tels que le droit de refuser les décisions entièrement automatisées ou le droit de demander des explications. Ces droits sont essentiels pour protéger les individus contre les préjudices causés par les décisions prises par l'IA dans les domaines de la finance, de l'assurance, de la santé ou du recrutement.

Le ministre des Sciences et des Technologies, Nguyen Manh Hung, expose les points de vue des députés de l'Assemblée nationale lors de la réunion. Photo : Ho Long

Le délégué a souligné que les deepfakes, la falsification de voix, d'images et de vidéos ont provoqué de nombreux incidents qui affectent gravement la sécurité et la confidentialité des informations. L'article 9 du projet de loi prévoit l'étiquetage des résultats de l'IA, mais certains points restent à clarifier : quels types de contenus doivent être étiquetés ? Quel niveau d'étiquetage est nécessaire pour protéger les utilisateurs sans nuire à leur expérience numérique ? Quelle est la responsabilité des plateformes de réseaux sociaux en matière de détection et de suppression des contenus falsifiés ? La conception d'un mécanisme d'étiquetage à la fois rigoureux et flexible est essentielle.

Le délégué a également souligné que le système d'évaluation de la conformité constitue l'un des aspects les plus techniques du projet de loi. Toutefois, un mécanisme de pré-inspection trop rigide risque d'entraver involontairement l'innovation.

Par conséquent, le délégué Thach Phuoc Binh a proposé de n'exiger la certification que pour les systèmes à haut risque, en autorisant l'auto-évaluation pour les systèmes à risque faible et moyen. Il convient de garantir un processus d'évaluation clair et transparent, en évitant la mise en place d'un mécanisme de demande-octroi.

Source : https://daibieunhandan.vn/du-thao-luat-tri-tue-nhan-tao-ai-trong-y-te-phai-duoc-kiem-dinh-nhu-thiet-bi-y-te-10397661.html