La technologie de l'IA présente de nombreux risques pour les enfants en ligne

DNVN - M. Do Duong Hien - un expert de ChildFund Vietnam, a déclaré que l'IA apporte de nombreux avantages mais présente également de nombreux risques potentiels pour les enfants sur Internet.

S'exprimant lors de l'atelier « Promouvoir la coopération dans la protection des enfants dans l'environnement en ligne » organisé par l'Association vietnamienne de sécurité de l'information en coordination avec le Département de la sécurité de l'information ( ministère de l'Information et des Communications ) le 21 novembre à Hanoi, les experts ont commenté que dans le contexte du développement rapide des technologies numériques et de leur transformation en outil de travail et de divertissement indispensable dans la vie quotidienne de chaque personne, les risques pour la sécurité, la sécurité de l'information et la vie privée augmentent également.

Pour les enfants, ces dangers et risques deviennent encore plus évidents lorsqu'ils ne possèdent pas les compétences nécessaires pour les identifier et les prévenir. Ces défis sont non seulement pour le Vietnam, mais aussi pour de nombreux autres pays du monde . Par conséquent, la protection des enfants et le renforcement de la coopération et des liens dans le cyberespace pour les protéger et les responsabiliser sont également des enjeux mondiaux.

M. Dang Vu Son - Vice-président de VNISA.

M. Dang Vu Son, vice-président de la VNISA et ancien président du Comité gouvernemental de cryptographie, a déclaré : « Dans ce contexte, le programme « Protéger et soutenir les enfants pour une interaction saine et créative en ligne pour la période 2021-2025 » a insufflé une dynamique favorable à la participation active des agences gouvernementales, des organisations sociales et des entreprises. Cependant, dans la pratique, la connexion et la coordination entre les parties prenantes restent limitées, ce qui nuit considérablement à l'efficacité des actions de protection de l'enfance dans le cyberespace. »

Selon M. Son, la VNISA s'est engagée à collaborer avec les organismes publics, les organisations internationales et les entreprises pour mettre en œuvre des initiatives visant à protéger les enfants en ligne. L'Association a récemment mené de nombreuses activités.

« Nous sommes convaincus que la collaboration et la coopération sont essentielles pour relever les défis et accroître l'efficacité de la protection des enfants dans le cyberespace. La VNISA s'engage à poursuivre ses efforts et à collaborer étroitement avec ses partenaires nationaux et étrangers afin de créer un cyberenvironnement véritablement sûr et durable pour la jeune génération », a ajouté M. Dang Vu Son.

Parlant de l'impact de l'intelligence artificielle (IA) sur les enfants en ligne, M. Do Duong Hien, expert de ChildFund Vietnam, a déclaré que l'IA se développe fortement, apportant des avantages mais présentant également de nombreux risques potentiels pour les enfants sur Internet.

« L'IA encourage et favorise la créativité et l'initiative des enfants. L'IA générative peut leur fournir des outils créatifs pour s'exprimer par la composition, l'art et la musique. Elle peut les aider à explorer et à découvrir de nouveaux domaines, à élargir leurs connaissances et leurs compétences », a déclaré M. Hien, tout en mettant en garde contre les inconvénients : « C'est le problème de la production de contenus inappropriés. Les outils/algorithmes d'IA des fournisseurs de plateformes peuvent fournir des contenus inappropriés et préjudiciables. De plus, l'IA générative peut être utilisée pour créer de la désinformation ou des fausses nouvelles qui affectent les capacités cognitives et comportementales des enfants, ainsi que leur développement. »

Cependant, l'IA peut également jouer un rôle de protection des enfants et de surveillance des contenus en ligne. Elle permet de détecter, de supprimer et d'alerter rapidement en cas de contenu abusif ou inapproprié sur les réseaux sociaux et les plateformes internet. Détecter et signaler les contenus d'abus sexuels sur mineurs (abus pédosexuels) : les applications et logiciels permettent de détecter les documents et les contenus d'abus pédosexuels, et de les signaler ou de les bloquer directement sur le système. Les outils d'IA peuvent contribuer à la détection des comportements violents.

M. Ngo Tuan Anh, vice-président de la VNISA, président du club VCSC (troisième à partir de la droite).

Évoquant les activités récentes de protection des enfants en ligne, M. Ngo Tuan Anh, vice-président de la VNISA et président du club VCSC, a déclaré : « La norme fondamentale TCCS:03 VNISA, publiée en juin 2024, constitue une étape importante dans la promotion de l'écosystème de produits et services de protection des enfants en ligne. Cette norme contribue également à évaluer la qualité des produits et services de protection des enfants en ligne, afin d'aider les utilisateurs et les parents à choisir ces produits et services en toute sécurité. Elle permettra de promouvoir la participation des entreprises, des organisations et d'un grand nombre d'utilisateurs à la protection de leurs enfants contre les dangers et les risques du cyberespace. »

Mme Phan Thi Kim Lien, responsable du programme de protection et de participation des enfants chez World Vision International au Vietnam, a déclaré que l'environnement numérique offre d'innombrables opportunités, mais aussi des risques pour le développement des enfants. Au Vietnam, 9 enfants sur 10 utilisent Internet. Afin de créer un environnement en ligne sûr et efficace pour les enfants, World Vision International au Vietnam met l'accent sur des programmes complets d'éducation aux compétences numériques afin que les enfants sachent se protéger, utiliser Internet de manière créative et être proactifs dans la création d'un environnement en ligne sûr et efficace.

Nguyen Duc

Source: https://doanhnghiepvn.vn/chuyen-doi-so/an-ninh-mang/cong-nghe-ai-tiem-an-nhieu-nguy-co-doi-voi-tre-em-tren-mang/20241121040103281