Mécanismes nécessaires pour protéger les enfants des effets néfastes de l'IA

Le président de la commission de l'Assemblée nationale sur la science, la technologie et l'environnement, Nguyen Thanh Hai, a déclaré que le projet de loi sur l'intelligence artificielle devait étudier et compléter des réglementations spécifiques afin de protéger les enfants des aspects négatifs de l'IA et de les guider vers une utilisation sûre et saine de cette technologie.

Il est nécessaire d'établir des réglementations éthiques pour les activités liées à l'IA.

Le matin du 21 novembre, au nom du Comité des sciences , des technologies et de l'environnement (KH,CN&MT), présentant le rapport sur l'examen du projet de loi sur l'intelligence artificielle (IA), le président du Comité, Nguyen Thanh Hai, a déclaré : L'article 27 du projet de loi a initialement déterminé les principes de base, conformément aux pratiques internationales telles que le respect des personnes, la transparence, l'équité, la non-nuisance et la protection de la vie privée.

Toutefois, le Comité sur la science, la technologie et l'environnement a constaté que, dans de nombreux pays, le processus d'élaboration de politiques sur l'intelligence artificielle commence souvent par la promulgation de cadres éthiques et de principes directeurs, suivie d'une évaluation des pratiques en vue de finaliser et de progresser vers une législation.

Sur cette base, le Comité des sciences, des technologies et de l'environnement a proposé que l'organisme de rédaction étudie et complète les principes généraux d'éthique afin de les préciser en détail . Ces principes font référence aux valeurs de l'UNESCO et de l'OCDE, notamment le respect des personnes, l'équité, la sécurité, la transparence, la responsabilité et le développement durable ; le Comité encourage les entreprises à élaborer leur propre code de déontologie interne en matière d'IA, conformément à ce cadre, et à le rendre public auprès des organismes de gestion étatiques, comme prévu.

Des visiteurs admirent la maquette de robot humanoïde exposée dans le hall A80. Photo d'illustration

Parallèlement, étudier l’ajout du principe de « responsabilité des parties prenantes quant aux impacts éthiques et sociaux des systèmes d’IA tout au long du processus, de la recherche à l’utilisation du système » ; clarifier la relation entre les règles éthiques (recommandations) et les obligations légales (obligatoires).

Par ailleurs, selon la Commission des sciences, des technologies et de l'environnement, l'article 28 du projet de loi ne mentionne les responsabilités éthiques que pour le secteur public, alors que les applications de l'IA dans le secteur privé (notamment dans les domaines de la santé, de la finance et de l'éducation ) peuvent également avoir des répercussions sociales et éthiques similaires. Il est donc recommandé à l'organisme chargé de la rédaction d'étudier la question et d'envisager l'ajout de dispositions relatives aux responsabilités éthiques du secteur privé, afin de garantir l'exhaustivité du texte de loi.

Ajouter des réglementations spécifiques pour protéger les enfants

Dans son rapport sur l'examen du projet de loi, le président de la Commission des sciences, des technologies et de l'environnement, Nguyen Thanh Hai, a clairement indiqué : « Pour les sujets vulnérables comme les enfants, l'IA présente également des aspects négatifs préoccupants : en s'appuyant trop sur l'IA pour trouver des réponses ou résoudre des exercices, les enfants risquent de perdre l'occasion de développer leur esprit critique, leurs capacités d'analyse et de créativité ; ils sont susceptibles d'adopter des comportements déviants ; ils peuvent prendre l'IA pour une véritable amie et suivre ses conseils, qui peuvent être inappropriés ou dangereux ; ils peuvent être manipulés ou victimes d'escroqueries… »

La loi sur l'intelligence artificielle doit comporter des dispositions spécifiques pour protéger les enfants des aspects négatifs de l'IA et les guider vers une utilisation sûre et saine de celle-ci. Photo d'illustration

Le président de la commission des sciences, des technologies et de l'environnement, Nguyen Thanh Hai, a cité : la loi italienne sur l'IA stipule que les personnes de moins de 14 ans ne peuvent utiliser l'IA qu'avec le consentement de leurs parents ou tuteurs ; selon une proposition récente, les utilisateurs de l'UE doivent être âgés de plus de 16 ans pour utiliser l'IA sans consentement parental ; la loi californienne sur le contrôle des chatbots (IA Chatbot Control Law) stipule que les plateformes d'IA sont tenues d'informer clairement les utilisateurs de moins de 18 ans toutes les 3 heures qu'ils conversent avec un chatbot et non avec un humain.

Sur cette base, le Comité recommande que l'organisme rédacteur étudie et complète des réglementations spécifiques afin de protéger les enfants des aspects négatifs de l'IA, de les guider vers une utilisation sûre et saine de l'IA, et de promouvoir le rôle et la responsabilité des parents et des écoles dans la surveillance et la sensibilisation des enfants à l'IA.

Source : https://phunuvietnam.vn/can-co-che-de-bao-ve-tre-em-truoc-cac-mat-trai-cua-ai-20251121112842757.htm