Conseil d'expert : Ne vous précipitez pas pour légaliser l'IA

(NLDO) - L'atelier a attiré l'attention de chercheurs, d'enseignants, d'étudiants et d'experts dans le domaine de la technologie et du droit.

Le 7 octobre, l'Université d'économie et de droit (VNU-HCM) s'est coordonnée avec le journal juridique de Hô-Chi-Minh-Ville pour organiser une conférence scientifique sur le thème « IA et droit : expérience internationale et quelques suggestions pour le Vietnam ».

Besoin de flexibilité plutôt que d'un « cadre rigide »

S'exprimant lors de l'atelier, le professeur associé Dr Ngo Huu Phuoc, doyen adjoint en charge de la Faculté de droit économique de l'Université d'économie et de droit, a présenté un article sur l'impact de l'intelligence artificielle (IA) sur le système juridique, l'expérience législative des pays du monde entier et les suggestions politiques pour le Vietnam.

Le professeur associé, Dr Ngo Huu Phuoc, vice-doyen de la Faculté de droit économique de l'Université d'économie et de droit, a présenté son exposé. Photo : Comité d'organisation.

Selon M. Phuoc, la Chine est l'un des pays qui adopte une approche remarquable en matière de gouvernance de l'IA. Elle applique un modèle à plusieurs niveaux, combinant des lois fondamentales telles que la loi sur la cybersécurité (2017), la loi sur la sécurité des données (2021) et la loi sur la protection des informations personnelles (2021), avec des réglementations spécialisées, des réglementations locales et des normes techniques de nature non contraignante. Cette approche permet à la Chine d'assurer une gouvernance rigoureuse et de créer les conditions nécessaires aux tests technologiques dans le cadre du contrôle.

Les principaux avantages sont la rapidité et la flexibilité, permettant des ajustements rapides des politiques en fonction des pratiques technologiques, tout en favorisant le développement d'un écosystème d'IA solide. Cependant, ce modèle présente également des limites en matière de confidentialité, de chevauchement juridique et de risque d'étouffement de l'innovation par une intervention étatique trop importante.

Fort de son expérience internationale, le professeur associé Dr Ngo Huu Phuoc estime que le Vietnam ne devrait pas encore adopter de loi distincte sur l'IA. En effet, l'écosystème national de l'IA n'est pas encore suffisamment mature pour être légalisé. Par ailleurs, un « cadre juridique rigide » freinera l'innovation. Par ailleurs, les ressources de gestion de l'État restent limitées.

Au lieu de cela, il a proposé de publier un cadre éthique de l’IA (code de conduite) pour guider un comportement et un développement responsables ; de construire un bac à sable de l’IA pour permettre des tests contrôlés ; et de modifier et de compléter les lois existantes pour intégrer les réglementations liées à l’IA dans le système juridique existant.

Selon les experts, ces orientations aideront le Vietnam à profiter des opportunités offertes par l’IA de manière flexible, sûre et en fonction des conditions réelles du pays.

Quand l'IA frappe à la porte de l'hôpital

Selon le Dr Le Minh Khoi, professeur associé et chef du département des sciences et de la formation de l'hôpital universitaire de médecine et de pharmacie de Hô-Chi-Minh-Ville, l'IA en médecine a été développée selon de nombreux modèles avancés par rapport à des domaines comme l'économie ou les communications. Cependant, son application pratique reste timide. « Les médecins cherchent encore à savoir si l'IA est une “amie” ou une “ennemie” », a-t-il expliqué.

Selon le professeur associé, le Dr Le Minh Khoi, l'introduction de l'IA dans le domaine médical présente une série de risques potentiels tels que la sécurité et la confidentialité des données, les biais dans les algorithmes et l'éthique, les problèmes de sécurité, de responsabilité et de transparence...

L'un des principaux risques réside dans l'« illusion » de l'IA. Si des erreurs se produisent dans un système largement déployé, les conséquences pourraient affecter des milliers de patients. La question de la responsabilité est également épineuse : si l'IA provoque des erreurs de diagnostic ou de traitement, qui est responsable : le médecin qui utilise le système, le développeur, le distributeur, l'hôpital ou l'autorité de régulation ?

Scène de la conférence - Photo : Comité d'organisation

De plus, si les médecins s'appuient trop sur l'IA, ils risquent de perdre leur capacité de réflexion et de jugement clinique, ainsi que leur capacité à détecter et corriger les erreurs, alors que la supervision humaine demeure indispensable. De plus, la mentalité conservatrice, la peur de perdre leur emploi ou le manque de compréhension des technologies incitent de nombreux personnels médicaux à hésiter à recourir à l'IA.

Concernant les défis juridiques, le Dr Le Minh Khoi, professeur associé, a indiqué que le rythme de développement de l'IA dépasse actuellement largement la capacité du système réglementaire. La technologie évolue trop vite, tandis que la réglementation est lente, ce qui nous plonge dans une situation d'« étouffement » entre deux extrêmes : un durcissement freinera l'innovation, tandis qu'un assouplissement sera risqué pour les patients. De plus, l'infrastructure des données médicales au Vietnam reste fragmentée, incohérente et de qualité inégale, ce qui complique l'entraînement et le test des modèles d'IA.

M. Khoi a conclu que l’IA est une grande opportunité pour l’industrie médicale, mais aussi un test d’adaptabilité, d’ouverture d’esprit et de responsabilité humaine à l’ère numérique.

Source : https://nld.com.vn/chuyen-gia-gop-y-khong-voi-luat-hoa-ai-196251007140039549.htm