Les experts alertent sur les risques de l'intelligence artificielle pour les enfants

Pour minimiser les risques que l’intelligence artificielle affecte les enfants, il n’est pas nécessaire d’interdire aux enfants de l’utiliser, mais surtout, d’éduquer les enfants pour les sensibiliser aux risques afin de se protéger dans l’environnement en ligne.

Mme Dinh Thi Nhu Hoa a déclaré que les applications intégrant l'intelligence artificielle (IA) gagnent en popularité et ont un impact significatif sur les enfants. (Photo : NVCC)

C'est l'opinion de Mme Dinh Thi Nhu Hoa, chef du département d'inspection du Centre de réponse aux urgences du cyberespace du Vietnam (VNCERT/CC), département de la sécurité de l'information du ministère de l'Information et des Communications , auprès du journal The World and Vietnam, sur les risques et les solutions pour protéger les enfants des impacts de l'intelligence artificielle.

De nombreux risques lorsque les enfants dépendent de l'IA

Ces derniers temps, les applications intégrant l'intelligence artificielle (IA) ont gagné en popularité. Parmi elles, les enfants sont vulnérables aux outils d'IA. Avez-vous des avertissements à ce sujet ?

De nos jours, les applications intégrant l'intelligence artificielle (IA) sont de plus en plus populaires, partagées et utilisées par un large public. Parmi celles-ci, on trouve notamment les applications de retouche photo et de chat (chatbots). Cependant, beaucoup oublient que les enfants sont ceux qui peuvent être affectés par les outils d'IA, avec des conséquences à long terme. Les enfants de tous âges peuvent facilement accéder aux outils d'IA, mais leur utilisation ne nécessite pratiquement aucun engagement.

Aujourd'hui, les enfants ont facilement accès aux outils d'IA, mais leur utilisation est quasiment sans prérequis. À votre avis, quels sont les risques auxquels ils sont confrontés ?

Selon les statistiques, le taux d'utilisation d'Internet par les enfants de 12 à 17 ans est très élevé : 93 % en milieu urbain et 88 % en milieu rural. En particulier, 98 % des enfants accèdent à Internet via leur smartphone.

À mon avis, l'IA présente certains risques pour les enfants. Premièrement , le risque d'accéder à des informations inappropriées. Les informations fournies aux utilisateurs par des applications intégrant l'IA, comme ChatGPT, sont des données agrégées provenant de nombreuses sources sur Internet. Elles peuvent être exactes ou inexactes. De plus, ces informations ne sont ni sélectionnées, ni évaluées, ni filtrées en fonction de l'âge de l'utilisateur. Par conséquent, les recherches peuvent afficher des informations erronées, des contenus inappropriés ou violents.

Deuxièmement , le risque de fuite d'informations privées et personnelles des enfants. Les enfants qui partagent accidentellement des informations personnelles en ligne deviennent facilement victimes d'intrusions illégales dans leurs données lorsqu'ils utilisent des applications de retouche photo ou de chat (chatbots).

Mardi , des adolescentes sont attirées et incitées à participer à des défis périlleux. Des cas alarmants ont d'ailleurs été recensés : des adolescentes consultent ChatGPT pour obtenir des informations sur leur santé et leurs régimes alimentaires. L'IA peut rapidement fournir des informations détaillées et des conseils précis. Cependant, ces informations ne font référence à aucune donnée réelle et ne sont qu'une collection aléatoire d'informations trouvées sur Internet.

Parallèlement, exposés aux chatbots dès leur plus jeune âge, les enfants confondront l’intelligence artificielle avec un véritable ami et agiront en fonction des conseils de l’IA, même si ces conseils peuvent inclure du contenu biaisé, inexact, nuisible ou trompeur.

Quatrièmement, l'impact sur la psychologie, la physiologie et le comportement des enfants. Grâce aux outils d'IA, les utilisateurs peuvent trouver des informations sur n'importe quel sujet en une seule question. Les chatbots IA ont simplifié la navigation dans l'information, évitant ainsi d'ouvrir des dizaines de sites web et de lire d'innombrables articles pour compiler les informations.

Ainsi, une interaction excessive avec les machines technologiques peut entraîner dépression, anxiété ou perte de compétences sociales en raison d'une interaction réduite avec autrui. De plus, la dépendance excessive des enfants à l'IA réduit leur capacité à apprendre et à travailler de manière proactive.

La dépendance excessive des enfants à l'IA réduit leur capacité à apprendre et à travailler de manière proactive. (Source : Internet)

Aidez les enfants à se comporter de manière civile et gentille en ligne

Quelle est la solution durable pour minimiser les conséquences des outils d’IA sur les enfants, selon vous ?

Selon un rapport de l'UNICEF de 2022, 23 % des enfants déclarent avoir parfois vu par inadvertance des images ou des vidéos sensibles faisant l'objet de publicités en ligne. En réalité, le contenu pornographique est omniprésent ; bloquer les sites pornographiques est donc insuffisant et inefficace. Les enfants ont besoin d'un outil puissant et efficace pour filtrer le contenu en ligne et éviter ainsi d'être « exposés » à des informations néfastes et toxiques.

Pour minimiser les risques liés à l'IA pour les enfants, il n'est pas nécessaire de leur interdire son utilisation, mais il est essentiel de les sensibiliser aux risques et de se protéger en ligne. À mon avis, il existe des principes pour aider les enfants à rester en sécurité en ligne : les 4T : Conformité, Intelligence, Prudence et Bienveillance.

Premièrement, respectez les règles d'utilisation d'Internet définies par le fournisseur d'accès et l'école elle-même. Respectez également la loi, notamment les règles communautaires de certaines applications d'IA qui ne sont pas destinées aux enfants de moins de 13 ans.

Deuxièmement, il faut doter les élèves des connaissances et des compétences nécessaires pour participer à des environnements de réseau intelligents, comme les compétences en matière de fourniture d’informations personnelles sur l’environnement réseau, les compétences en matière d’utilisation sécurisée des réseaux sociaux et la gestion des mots de passe pour garantir la sécurité.

Troisièmement, soyez prudent avec vos amis en ligne, car certaines personnes pourraient prétendre vous approcher. Soyez vigilant lorsque vous consultez des liens suspects, lorsque vous tombez sur des offres alléchantes et lorsque vous fournissez des informations en ligne, y compris dans les boîtes de discussion… afin de minimiser les risques de fraude en ligne. Enfin, soyez courtois et aimable en ligne : n'envoyez ni ne répondez à des messages au contenu inapproprié ou offensant.

Comment les parents devraient-ils agir en tant que « gardiens » du cyberespace pour leurs enfants ?

Les parents peuvent appliquer certains outils technologiques pour aider à bloquer les informations inappropriées pour les enfants tels que Cyberpurify kid, safe gate family, BKAV safe kid, mobile guard for kid, safe zone, ...

De plus, les parents doivent également établir des règles d'utilisation des ordinateurs et des périphériques réseau pour leurs enfants. Ces règles varient selon l'âge. N'autorisez les enfants à utiliser les réseaux sociaux que s'ils sont suffisamment âgés pour les utiliser conformément aux principes communautaires recommandés par les plateformes de réseaux sociaux.

Les parents doivent notamment être attentifs et surveiller de près le contenu en ligne auquel leurs enfants accèdent. Proposez aux familles des solutions de sécurité informatique telles que des logiciels anti-malware et antivirus, des solutions pour bloquer les informations malveillantes et des produits permettant de surveiller et de bloquer les informations nuisibles lorsque les enfants y accèdent.

Merci!

Le Vietnam et d’autres pays de l’ASEAN ont convenu d’adopter la Déclaration sur la protection des enfants contre toutes les formes d’exploitation et d’abus en ligne dans l’ASEAN en 2019, puis ont adopté en 2021 la Déclaration sur l’élimination de l’intimidation dans l’ASEAN, y compris l’intimidation en ligne.

De nombreux risques lorsque les enfants dépendent de l'IA

Aidez les enfants à se comporter de manière civile et gentille en ligne

Comment (0)