La profondeur culturelle et les droits de l'homme doivent être davantage mis en avant dans la gouvernance de l'IA.
Le délégué Bui Hoai Son a particulièrement apprécié l'article 4 du projet de loi, qui affirme les principes suivants : « placer les personnes au centre, respecter la dignité humaine, les droits de l'homme, la vie privée et garantir l'intérêt public » ; « garantir la sécurité, l'équité, la transparence, l'impartialité, la non-discrimination et l'absence de préjudice pour les personnes ou la société » ; « respecter la loi, les normes éthiques et les valeurs culturelles du Vietnam, contribuant ainsi au renforcement de l'ordre, de la moralité et d'un développement social sain » ; et, dans le même temps, « promouvoir l'innovation associée à un développement vert, inclusif et durable, et préserver l'identité culturelle nationale ».
Scène de la séance de discussion du Groupe 1 - Délégation de l'Assemblée nationale de la ville de Hanoï
Dans le cadre d'une loi sur les technologies, placer la culture, l'éthique, l'identité et les personnes au cœur du processus est un choix judicieux. Ceci est conforme à l'esprit de la Constitution et aux orientations du Parti qui considèrent la culture comme le fondement spirituel, la finalité et le moteur du développement. Parallèlement, cela transmet un message clair : l'IA doit être au service de l'humanité, et non la remplacer. D'un point de vue culturel, le délégué Bui Hoai Son a déclaré que c'est là le fondement de la construction d'une « culture de l'IA », c'est-à-dire un système de valeurs, de normes, de modes de vie et de comportements adaptés à un environnement de plus en plus imprégné de technologie.
Mesures supplémentaires pour faire face aux changements sociaux induits par l'intelligence artificielle
Toutefois, afin de faciliter la mise en œuvre de ces principes, le délégué Bui Hoai Son a souscrit à l'avis du Comité des sciences, des technologies et de l'environnement selon lequel il conviendrait de les restructurer en groupes : un groupe sur les personnes et leurs droits, un groupe sur la sécurité et les risques, un groupe sur l'éthique et le droit, et un groupe sur le développement et l'intégration. Cette restructuration permettrait d'éviter les doublons, d'accroître la logique et de simplifier l'application pour les organismes concernés. Parallèlement, il est nécessaire d'envisager l'ajout de principes clairs relatifs à la responsabilité et à la traçabilité des systèmes d'IA, afin de garantir que tous les systèmes puissent être audités et contrôlés tout au long de leur cycle de vie, notamment dans des secteurs sensibles tels que la presse, les médias, l'éducation et la culture.
Cependant, la déléguée Bui Hoai Son a suggéré de clarifier le contenu relatif aux groupes vulnérables : femmes, enfants, personnes handicapées, minorités ethniques, etc. L’IA peut reproduire involontairement des préjugés sexistes, régionaux et ethniques si les données d’entraînement en contiennent. Par conséquent, il est nécessaire d’ajouter à l’article 4 et aux dispositions relatives à la protection des utilisateurs des exigences d’évaluation de l’impact socioculturel et de l’impact sur l’égalité des genres, ainsi que sur les groupes vulnérables, lors de la conception et de l’exploitation des systèmes d’IA.
Les délégués ont approuvé la suggestion de l'organisme de révision selon laquelle le projet de loi devrait comporter des dispositions distinctes relatives aux droits des utilisateurs et des personnes affectées par les systèmes d'IA, notamment le droit à l'information et le droit de demander un examen humain des décisions automatisées prises par l'IA. Il s'agit d'un enjeu non seulement juridique, mais aussi culturel : garantir que les humains conservent toujours la maîtrise de la situation et ne soient pas inconsciemment « contrôlés » par des algorithmes dans leur vie quotidienne.
Délégué Bui Hoai Son, délégation de l'Assemblée nationale de la ville de Hanoï
Les politiques publiques doivent davantage mettre l'accent sur la dimension culturelle et l'adaptabilité sociale à l'IA.
L’article 5 du projet de loi stipule que l’État met en œuvre une politique visant à « faire de l’intelligence artificielle un moteur essentiel de croissance, d’innovation et de développement durable pour le pays », tout en l’associant à un développement vert et inclusif, à la protection de l’environnement et à la « préservation de l’identité culturelle nationale ». Le rapport d’examen propose également d’ajouter des mesures importantes, telles que : la promotion de tests contrôlés des technologies d’IA avancées mais potentiellement risquées ; l’accès à des données massives de haute qualité pour l’entraînement des modèles ; la mise en place d’un mécanisme pour attirer et récompenser les experts ; et surtout, une politique de « formation approfondie et de vulgarisation des connaissances et compétences numériques de base, ainsi que de l’éthique de l’IA, à destination des fonctionnaires, des agents de la fonction publique, du grand public et notamment des enfants » afin de garantir une utilisation sûre de l’IA.
Partageant ces propositions, d'un point de vue culturel, le délégué Bui Hoai Son a suggéré que le projet de loi, dans son article 5 ou dans le chapitre sur les politiques publiques, mentionne plus clairement des orientations telles que :
Il convient d'encourager et de privilégier l'application de l'IA à la préservation et à la promotion du patrimoine culturel, à la création artistique et au développement des industries culturelles. Le Vietnam dispose d'atouts en matière de ressources culturelles dans ces domaines, mais de ressources limitées ; l'IA peut constituer un outil efficace pour numériser le patrimoine, créer de nouvelles expériences immersives et accroître la productivité créative.
Il existe des politiques visant à soutenir les entreprises créatives et les jeunes entreprises culturelles et artistiques utilisant l'IA, par exemple dans la production cinématographique, la musique , le design, la publicité, le tourisme culturel, etc., tout en exigeant le strict respect des normes éthiques et de droit d'auteur.
En matière de données massives pour l'entraînement de l'IA, il est essentiel de considérer les données culturelles, historiques, linguistiques, littéraires et artistiques vietnamiennes comme une ressource stratégique. La politique des données doit créer les conditions permettant aux modèles d'IA vietnamiens d'accéder à la langue et au patrimoine culturel vietnamiens de manière légale et contrôlée, protégeant ainsi les droits d'auteur et permettant à l'IA de mieux comprendre et de s'exprimer en vietnamien.
Éducation, formation et développement des ressources humaines pour faire de l'IA une opportunité d'élever la culture numérique vietnamienne
Le projet de loi consacre un article très important à l'éducation et au développement des ressources humaines, stipulant que l'enseignement général « intègre dans les programmes obligatoires des contenus de base sur l'intelligence artificielle, la pensée informatique, les compétences numériques et l'éthique technologique » ; que les établissements de formation professionnelle et les universités élaborent des programmes de formation en intelligence artificielle et en science des données ; et que l'État met en œuvre le « Programme national de développement des ressources humaines en intelligence artificielle », comprenant des politiques de formation, des bourses d'études, le recrutement et l'emploi d'experts, ainsi que la constitution d'une équipe d'enseignants, de scientifiques et de gestionnaires dans ce domaine.
Le délégué Bui Hoai Son a vivement apprécié cette approche, car elle établit un lien entre la loi sur l'intelligence artificielle et la résolution 71 du Comité central relative aux avancées en matière d'éducation et de formation, ainsi qu'avec la résolution portant sur les mécanismes et politiques spécifiques de mise en œuvre de la résolution 71-NQ/TW, également examinée par l'Assemblée nationale lors de cette session. Cependant, s'appuyant sur son expérience en matière d'éducation culturelle, le délégué a souligné que l'enseignement de l'IA à l'école ne se limite pas à la simple maîtrise des outils numériques, mais englobe également la transmission de la « culture numérique », de l'« éthique technologique » et du sens critique. Les élèves doivent appréhender les risques tels que la désinformation, la manipulation de l'opinion publique, la dépendance aux machines et la perte de la capacité de penser par eux-mêmes et de manière créative.
Il est donc recommandé que le projet de loi mette davantage l'accent sur le contenu éducatif relatif à : la vie privée et la protection des données personnelles dans l'environnement de l'IA ; le respect du droit d'auteur, des droits voisins et de l'éthique créative lors de l'utilisation de l'IA dans l'art ; ainsi que sur la formation au sens esthétique, à l'esprit critique et à la capacité de distinguer le contenu généré par l'humain de celui généré par l'IA, afin de ne pas tout mettre sur le même plan et de ne pas perdre l'« âme » de la culture.
Ces contenus devraient être conçus en accord avec les politiques de formation des ressources humaines hautement qualifiées, d'autonomie universitaire et de coopération internationale en matière d'éducation mentionnées dans la résolution sur les mécanismes et politiques spécifiques en matière d'éducation, y compris les contenus relatifs à la formation spécialisée et aux domaines de la culture, des arts et du sport de haut niveau.
Éviter les lacunes et les chevauchements entre la loi sur l'intelligence artificielle et les lois spécialisées dans les domaines de la culture, du journalisme et de la propriété intellectuelle.
Le rapport d'examen a souligné que le projet de loi doit continuer à être révisé afin d'assurer sa cohérence avec les ensembles de lois relatifs aux infrastructures numériques, aux données, à la sécurité et à la sûreté ; aux sciences, aux technologies et à l'innovation ; aux entreprises, aux investissements et à la finance ; à l'éducation ; et en particulier avec les ensembles de lois relatifs à l'éthique, à la société, aux droits et obligations, et aux responsabilités juridiques, tels que le Code civil, le droit du travail, la loi sur les enfants, la loi sur les personnes handicapées, la loi sur la propriété intellectuelle, la loi sur le traitement des infractions administratives, le Code pénal, etc.
Toutefois, le délégué Bui Hoai Son a souligné que la question des droits de propriété intellectuelle et du droit d'auteur sur les produits générés par l'IA est devenue un sujet brûlant à l'échelle mondiale, engendrant de nombreux litiges, or le projet de loi actuel ne l'aborde pas clairement. Le rapport d'examen suggère également qu'il est nécessaire de discuter avec l'organe de rédaction de la loi afin d'amender et de compléter certains articles de la loi sur la propriété intellectuelle, et ainsi renforcer la réglementation relative aux droits de propriété intellectuelle, au droit d'auteur et à la responsabilité juridique concernant les contenus générés par l'IA. Considérant que cette question est une préoccupation majeure pour les artistes et les producteurs culturels et artistiques, et que, faute de réglementation rapide, les artistes vietnamiens pourraient être désavantagés et l'environnement créatif culturel déstabilisé, le délégué a proposé que la loi sur l'intelligence artificielle contienne au moins une disposition de principe affirmant que toutes les applications d'IA doivent respecter les droits de propriété intellectuelle, ne doivent pas utiliser illégalement des données d'entraînement issues d'œuvres littéraires, artistiques, musicales, cinématographiques, etc., et confier le traitement des modalités d'application à la loi sur la propriété intellectuelle.
En outre, il est nécessaire de clarifier les responsabilités des plateformes de services d'IA, notamment les plateformes transfrontalières, quant au respect des lois vietnamiennes relatives au journalisme, au cinéma, à la cybersécurité, à la sécurité de l'information, à la protection de l'enfance, etc. Sans une réglementation suffisamment stricte, il sera très difficile de lutter contre la diffusion de contenus toxiques générés par l'IA, allant des fausses informations aux contenus incitant à la violence, à la haine, à la dépravation et portant atteinte à la culture et à l'éthique sociale.
Délégués participant à la réunion
Garantir les ressources et les mécanismes de contrôle social nécessaires à l'application de la loi
Approuvant la politique d'établissement d'un Comité national sur l'intelligence artificielle, de création d'un portail national sur l'IA, d'une base de données nationale sur les systèmes d'IA, ainsi que de mécanismes d'incitation, de fonds de développement de l'IA, etc., comme indiqué dans le projet de loi et le rapport d'examen, le délégué Bui Hoai Son a proposé d'examiner attentivement les ressources financières, les ressources humaines, l'affectation et la décentralisation dans le processus de mise en œuvre de la loi.
Selon le délégué, au sein du Comité national sur l'IA, il devrait y avoir une participation régulière et substantielle des agences chargées de la culture, de l'éducation, de l'information, de la presse et des droits de l'homme afin de garantir que les critères culturels et sociaux et les droits de l'homme soient intégrés dès le départ dans toutes les décisions politiques relatives à l'IA.
Par ailleurs, le mécanisme de suivi de la mise en œuvre de la loi ne se limite pas à un contrôle administratif ; il requiert également un mécanisme de contrôle social, incluant la participation des associations professionnelles, des organisations sociales, des artistes, du monde universitaire et des groupes vulnérables. Lors de l’élaboration de réglementations et de normes techniques relatives à l’IA, une consultation publique devrait être menée afin d’éviter une « technocratisation » du domaine et de permettre aux personnes directement concernées de s’exprimer.
La loi devrait également envoyer un message clair quant à la garantie d'un accès égal pour les utilisateurs et les organisations vietnamiennes aux principales plateformes d'IA, afin d'éviter une situation où certaines entreprises monopolisent, restreignent l'accès ou manipulent le marché d'une manière désavantageuse pour les utilisateurs et les entreprises vietnamiennes.
Affirmant que l'intelligence artificielle représente une opportunité historique pour le Vietnam de réduire son retard de développement, mais aussi un défi majeur pour sa culture, son intelligence et sa capacité de gouvernance, le délégué Bui Hoai Son a soutenu la promulgation de la Loi sur l'intelligence artificielle, en privilégiant une loi-cadre souple et centrée sur le peuple et la culture. Il a également suggéré que l'organe de rédaction poursuive ses recherches et prenne davantage en compte les avis des réviseurs, notamment sur les questions relatives aux valeurs culturelles, à l'éthique, aux droits de l'homme, à l'éducation, à la propriété intellectuelle et au contrôle social. Une fois finalisée, la Loi sur l'intelligence artificielle ne sera pas seulement une loi sur la technologie, mais deviendra également une loi fondamentale de la nouvelle ère, où l'IA accompagnera le peuple vietnamien, de pair avec la culture vietnamienne, dans un développement fort, durable et humain.
Source : https://bvhttdl.gov.vn/luat-tri-tue-nhan-tao-can-dinh-hinh-van-hoa-ai-ton-trong-cac-gia-tri-van-hoa-dao-duc-ban-sac-dan-toc-20251122155829015.htm
Comment (0)