La technologie de l'IA présente de nombreux risques pour les enfants en ligne

DNVN – M. Do Duong Hien, expert de ChildFund Vietnam, a déclaré que l'IA apporte de nombreux avantages mais présente également de nombreux risques potentiels pour les enfants sur Internet.

Lors de l'atelier « Promouvoir la coopération pour la protection des enfants en ligne », organisé le 21 novembre à Hanoï par l'Association vietnamienne de la sécurité de l'information en coordination avec le Département de la sécurité de l'information ( Ministère de l'Information et des Communications ), des experts ont souligné que, dans un contexte de développement rapide des technologies numériques et de leur intégration comme outil de travail et de divertissement indispensable au quotidien, les risques pour la sécurité, la sécurité de l'information et la vie privée augmentent également.

Pour les enfants, ces dangers et ces risques sont d'autant plus manifestes qu'ils ne possèdent pas les compétences nécessaires pour les identifier et les prévenir. Ces défis concernent non seulement le Vietnam, mais aussi de nombreux autres pays à travers le monde . Par conséquent, la protection de l'enfance et le renforcement de la coopération et de la connectivité dans le cyberespace afin de protéger et d'autonomiser les enfants sont des enjeux qui se posent à l'échelle mondiale.

M. Dang Vu Son - Vice-président de VNISA.

M. Dang Vu Son, vice-président de VNISA et ancien président du Comité gouvernemental de chiffrement, a déclaré : « Dans ce contexte, le programme « Protéger et soutenir les enfants pour qu’ils interagissent de manière saine et créative en ligne pour la période 2021-2025 » a insufflé une dynamique favorisant la participation active des organismes d’État, des organisations sociales et des entreprises. Toutefois, dans la pratique, des difficultés persistent en matière de connexion et de coordination entre les parties prenantes, ce qui nuit considérablement à l’efficacité des actions de protection de l’enfance dans le cyberespace. »

Selon M. Son, la VNISA s'est engagée à collaborer avec les agences de gestion étatiques, les organisations internationales et les entreprises afin de mettre en œuvre des initiatives visant à protéger les enfants en ligne. L'association a mené de nombreuses actions ces derniers temps.

« Nous sommes convaincus que la connexion et la coopération sont essentielles pour relever les défis et améliorer l’efficacité de la protection des enfants dans le cyberespace. L’Agence vietnamienne de sécurité nationale (VNISA) s’engage à poursuivre ses efforts et à collaborer étroitement avec ses partenaires nationaux et internationaux afin de bâtir un environnement numérique véritablement sûr et durable pour la jeune génération », a ajouté M. Dang Vu Son.

Évoquant l'impact de l'intelligence artificielle (IA) sur les enfants en ligne, M. Do Duong Hien, expert de ChildFund Vietnam, a déclaré que l'IA se développe fortement, apportant des avantages mais posant également de nombreux risques potentiels pour les enfants sur Internet.

« L’IA encourage et favorise la créativité et l’initiative chez les enfants. L’IA générative peut leur fournir des outils créatifs pour s’exprimer à travers la composition, l’art et la musique. Elle peut les aider à explorer et à découvrir de nouveaux domaines, à enrichir leurs connaissances et leurs compétences », a déclaré M. Hien, tout en soulignant un revers : « Le risque de produire des contenus inappropriés est réel. Les outils et algorithmes d’IA des plateformes peuvent diffuser des contenus inadaptés à l’âge et potentiellement nuisibles. De plus, l’IA générative peut être utilisée pour créer de la désinformation ou de fausses nouvelles qui affectent la cognition, le comportement et le développement des enfants. »

Cependant, l'IA peut aussi servir d'outil de protection de l'enfance et de surveillance des contenus en ligne. Elle est capable de détecter, de supprimer et de signaler rapidement les contenus abusifs ou inappropriés sur les réseaux sociaux et les plateformes internet. Détection et signalement des contenus pédopornographiques : des applications et des logiciels permettent de détecter les documents et les contenus pédopornographiques, et de les signaler ou de les bloquer directement dans le système. Les outils d'IA peuvent également contribuer à la détection des comportements violents.

M. Ngo Tuan Anh, vice-président de VNISA, président du club VCSC (troisième à partir de la droite).

S'exprimant sur les initiatives récentes de protection des enfants en ligne, M. Ngo Tuan Anh, vice-président de la VNISA et responsable du VCSC Club, a déclaré : « La norme de base TCCS:03 VNISA, publiée en juin 2024, constitue une étape importante qui contribue à promouvoir l'écosystème des produits et services destinés à protéger les enfants en ligne. Cette norme permet également d'évaluer la qualité de ces produits et services, offrant ainsi aux utilisateurs et aux parents une plus grande sérénité dans leurs choix. Elle favorisera la participation des entreprises, des organisations et d'un grand nombre d'utilisateurs afin de protéger leurs enfants des dangers et des risques du cyberespace. »

Mme Phan Thi Kim Lien, responsable des programmes de protection et de participation de l'enfance chez World Vision International au Vietnam, a souligné que l'environnement numérique offre d'innombrables opportunités, mais aussi des risques, pour le développement des enfants. Au Vietnam, 9 enfants sur 10 utilisent Internet. Afin de créer un environnement en ligne sûr et efficace pour les enfants, World Vision International au Vietnam axe ses efforts sur des programmes complets d'éducation aux compétences numériques. Ces programmes visent à ce que les enfants apprennent à se protéger, à utiliser Internet de manière créative et à contribuer activement à la construction d'un environnement numérique sûr et efficace.

Nguyen Duc

Source : https://doanhnghiepvn.vn/chuyen-doi-so/an-ninh-mang/cong-nghe-ai-tiem-an-nhieu-nguy-co-doi-voi-tre-em-tren-mang/20241121040103281