Risques pour les enfants

L'intelligence artificielle (IA) prend une importance croissante et a un impact profond sur de nombreux aspects de la vie moderne. Les enfants, avec leur curiosité, leur capacité d'apprentissage et leur sensibilité à la technologie, ne peuvent échapper à l'impact de l'IA.

Non seulement l’IA change la façon dont les enfants apprennent et interagissent avec le monde qui les entoure, mais elle ouvre également de nouvelles opportunités et pose des défis majeurs pour garantir un environnement sûr et prospère pour les enfants.

L’intelligence artificielle (IA) devient un domaine de plus en plus important et a un impact profond sur de nombreux aspects de la vie moderne.

Les risques viennent avec la commodité

Grâce à son intelligence et à sa puissance de calcul, l'IA est devenue indispensable à la vie humaine, y compris celle des enfants. Dès que les enfants accèdent à Internet, l'IA crée des tendances, perturbant les programmes d'apprentissage, les divertissements, etc., apportant de nombreux avantages et commodités, mais présentant également des risques pour les enfants, notamment en matière de protection de la vie privée, de sécurité, ainsi que des impacts psychologiques et comportementaux.

L'IA a créé une percée dans l'amélioration du système éducatif et des méthodes d'apprentissage pour les enfants au Vietnam ; ouvrant de nombreuses opportunités, aidant à améliorer et à développer les compétences des enfants ; fournissant des applications d'apprentissage interactives dans le cyberespace ; soutenant la personnalisation ; créant un environnement d'apprentissage intéressant et engageant... Les enfants peuvent accéder à un énorme référentiel de connaissances et d'exercices et recevoir un retour instantané du système d'IA.

Actuellement, au Vietnam, certains logiciels et programmes éducatifs en ligne appliquant la technologie de l'IA sont utilisés par de nombreuses écoles telles que : Hocmai.vn, VnEdu ou GoMaths, STEM youth science and technology, Codelearn, CoderSchool...

La pensée et la créativité des enfants se développent également lorsqu'ils effectuent des activités de divertissement et de jeu sur des logiciels basés sur l'IA tels que des jeux vidéo intelligents (Garena Lien Quan Mobile, PUBG Mobile ou Foody Crush), des applications de peinture (Colorize, Adobe Photoshop)...

Ces logiciels apportent non seulement des moments de détente et des expériences de divertissement uniques, mais stimulent également l'intelligence, la créativité et la logique des enfants.

Grâce à son intelligence et à sa praticité, l'IA simplifie, automatise et simplifie la vie des enfants. Des applications comme les assistants virtuels comme Siri, Google Assistant, Grab… ne sont plus un secret pour les enfants et sont désormais utilisées avec brio. Elles les accompagnent dans leurs activités quotidiennes, comme contrôler leur smartphone pour rechercher des informations, réserver une voiture, faire des achats en ligne ou organiser leur emploi du temps. L'IA est également utilisée dans les produits domotiques, la commande vocale comme les machines à laver et les réfrigérateurs connectés, pour répondre au mieux aux besoins et à la vie des enfants.

Cependant, les risques liés à l'IA ne sont pas négligeables. L'IA modifie la façon dont les individus interagissent avec les machines et entre eux ; elle affecte la psychologie et le comportement des enfants ; elle viole la confidentialité et la vie privée.

De nos jours, les enfants sont presque trop dépendants de la technologie, notamment des logiciels et applications intelligents utilisant l'IA. Plus ils interagissent avec les machines, plus ils risquent de souffrir de dépression, de troubles du comportement, voire d'addiction, et de dépendre fortement de l'IA, notamment dans l'apprentissage, ce qui réduit leur capacité à réfléchir, à rechercher, à travailler et à être proactifs.

De plus, grâce à des algorithmes intelligents, l'IA peut facilement pénétrer dans la vie privée des enfants et collecter toutes les informations relatives à leurs loisirs, leurs données personnelles et leurs photos, rendant ainsi leur vie privée et leurs secrets plus fragiles. Surtout lorsque les enfants ne sont pas en mesure de comprendre et d'évaluer les risques, et ne réalisent pas les graves conséquences de la divulgation de leurs données personnelles et de leurs photos.

De plus, les enfants risquent d'accéder à des informations inappropriées. Tous les calculs de l'IA reposent sur la copie, des calculs « mécaniques », sans sélection ni contrôle, ce qui peut générer des informations néfastes et toxiques telles que des fausses nouvelles, des images pornographiques, des propos dépravés, de la violence…

De plus, le développement de l’IA dans le domaine de l’éducation a engendré de manière invisible des inégalités, des pressions et des comparaisons entre les enfants d’aujourd’hui.

Récemment, le Fonds des Nations Unies pour l'enfance (UNICEF) a également mis en garde contre les risques liés à l'IA pour les enfants. Il a notamment mentionné que l'IA peut exacerber les inégalités et les préjugés lorsque certaines écoles utilisent des machines pour trier les candidatures, excluant ainsi accidentellement un groupe d'élèves. Les algorithmes d'IA peuvent également favoriser la comparaison entre les enfants et les autres, suscitant ainsi une insatisfaction personnelle. Cela peut nuire à la confiance et à la santé mentale des enfants.

Un autre risque important réside dans le déséquilibre et la déconnexion entre les individus. Une dépendance excessive à l'IA et à la technologie peut entraîner chez les enfants une perte de compétences sociales, de communication directe et de capacité à nouer des relations. Cela peut avoir des conséquences négatives sur leur développement global, notamment sur leurs émotions et leur comportement. Les enfants ne sauront pas contrôler et exprimer leurs émotions ; ils ne sauront pas comment interagir avec leur entourage.

Selon les données publiées par les fournisseurs de services, en mars 2023, vnEdu était utilisé dans 57 provinces et villes avec plus de 3 millions de dossiers d'étudiants provenant de 9 000 écoles à l'échelle nationale ; en ne comptant que les élèves du secondaire, FUNiX compte actuellement 3 090 étudiants participant à des cours de programmation ; à la fin de 2020, hocmai.vn comptait plus de 4,5 millions d'étudiants inscrits.

Protéger les enfants des dangers de l'IA

Pour les enfants, l'utilisation de l'IA exige prudence et une surveillance attentive de la part des adultes. L'essentiel est de veiller à ce que les enfants soient éduqués et guidés dans l'utilisation sûre des technologies, tout en maintenant un équilibre entre le progrès technique et les autres facteurs de développement de l'enfant. Il est donc nécessaire de reconnaître l'importance de l'IA et de trouver des solutions raisonnables pour que les enfants puissent y accéder et l'utiliser en toute sécurité.

Premièrement, il est nécessaire de créer un environnement technologique sûr pour les enfants. L'État et les organismes compétents doivent édicter des réglementations relatives à la censure des contenus avant de diffuser des applications et des logiciels utilisant l'IA. Les fournisseurs de services sont notamment tenus de publier des avertissements concernant les contenus destinés aux enfants.

Deuxièmement, pour que les enfants puissent se protéger des risques liés à l'IA, la sensibilisation est la mesure la plus importante. Les enfants doivent acquérir des connaissances de base sur l'IA, la technologie, l'ingénierie, etc., ainsi que des compétences relationnelles pour utiliser la technologie et les réseaux sociaux.

Il intègre notamment des instructions sur l'utilisation de la technologie et des applications intelligentes avec des avertissements sur les risques d'insécurité et les aspects négatifs de ces applications pour les enfants ainsi qu'une sensibilisation de base à la confidentialité et à la responsabilité en ligne...

Troisièmement, des mesures doivent être mises en place pour surveiller et encadrer l'utilisation des technologies d'IA par les enfants. Cela implique de ne pas leur permettre d'accéder « librement » à ces technologies. La gestion peut porter sur le temps, le contenu et les modalités d'utilisation afin de garantir la sécurité des enfants et d'éviter les conséquences et impacts indésirables. Cela comprend la mise en place de réglementations sur l'utilisation des technologies, la surveillance des activités en ligne des enfants et la création d'un espace de discussion ouvert et convivial pour les enfants.

La protection des enfants dans le cyberespace requiert une attention particulière dans le cadre des actions de protection de l'enfance à venir. (Source : Internet)

Quatrièmement, il est nécessaire d'encadrer l'accès et l'utilisation de l'IA par les enfants. Au lieu de laisser les enfants utiliser l'IA uniquement à des fins de divertissement, ce qui peut facilement entraîner des effets négatifs, les parents doivent encourager leurs enfants à utiliser l'IA de manière créative et utile ; guider leurs enfants vers des logiciels et applications utiles à l'apprentissage, à la recherche, à la réflexion, à la créativité, etc.

Cinquièmement, pour que les enfants n'utilisent pas l'IA de manière passive et exploitent pleinement ses fonctionnalités, il est nécessaire de développer chez eux des compétences essentielles et un esprit critique. Cela implique de leur donner la capacité d'évaluer l'information, de réfléchir de manière analytique, de résoudre des problèmes et de travailler en groupe. Ainsi, ils ne seront pas dépendants de l'IA, pourront se protéger des risques potentiels et maîtriser pleinement la technologie.

Cet équipement peut être mis en place par l’organisation de programmes et de cours sur les compétences de vie, l’utilisation et la maîtrise des technologies, et sur la manière de se protéger des risques en ligne tels que les abus, les infractions et les contenus préjudiciables.

Sixièmement, pour faire face aux défis de l’IA, une coordination est nécessaire entre les parents, les enseignants, les écoles, les autorités et les prestataires de services, en définissant clairement les responsabilités de chaque partie dans la protection des enfants contre les risques de l’IA.

En outre, il devrait y avoir des politiques et des réglementations claires sur la protection de la vie privée et des données personnelles des enfants ; les fournisseurs de services d’IA doivent s’engager à protéger les informations personnelles pour fournir un environnement sûr et protéger les enfants contre les abus.

Au Vietnam, les programmes de formation à l'IA pour les enfants sont encore relativement récents et peu répandus. Certaines organisations, centres éducatifs et entreprises ont mis en place des activités de formation à l'IA pour les enfants, telles que des cours de robotique et de programmation, leur offrant ainsi l'opportunité d'expérimenter et d'apprendre.

Cependant, des investissements et un soutien du gouvernement et des agences compétentes sont nécessaires pour faire des programmes de formation à l’IA pour les enfants un élément indispensable de l’éducation au Vietnam.

Il est crucial de comprendre et d'aborder l'impact de l'IA sur les enfants. Nous devons exploiter les opportunités offertes par l'IA, tout en garantissant la protection et la sécurité des enfants lorsqu'ils interagissent avec elle.

Une étroite coordination entre l'État, les autorités, les familles, les écoles et les prestataires de services est nécessaire pour créer un nouvel environnement éducatif équitable et diversifié, aidant les enfants à comprendre et à utiliser l'IA de manière intelligente et sûre. Ce n'est qu'ainsi que nous pourrons garantir que les enfants bénéficieront et s'épanouiront grâce aux progrès de l'IA, devenant des individus confiants et créatifs, et contribuant positivement à la société de demain.

Quelques suggestions sur les règles d'utilisation de la technologie de l'IA pour les enfants

- Temps d'utilisation : définir clairement le temps d'utilisation de la technologie de l'IA, notamment en distinguant clairement le temps d'étude et le temps de jeu, ainsi qu'en limitant le temps que les enfants consacrent au divertissement ; limiter les actions qui ne sont pas autorisées pendant le temps d'étude...

- Contenu de l'application : gérer et contrôler le contenu des logiciels d'IA que les enfants utilisent ; comprendre ce que les enfants apprennent, jouent et explorent ; définir clairement ce que les enfants peuvent et ne peuvent pas faire.

- Informations personnelles des enfants : gérer strictement les informations personnelles des enfants ; établir une règle pour que les enfants ne divulguent jamais publiquement des informations personnelles telles que leur nom complet, leur école, leur adresse, leur numéro de maison, leur numéro de téléphone, etc. ; expliquer aux enfants que ces informations peuvent être collectées et utilisées par d'autres à de mauvaises fins.

- Prévoyez des punitions pour les enfants qui ne respectent pas les règles. Il est important d'en discuter avec l'enfant avant de lui demander de s'y conformer. Parallèlement, les parents doivent maintenir une attitude ferme et constante entre les punitions afin de créer des habitudes chez l'enfant.

- Apprenez aux enfants à refuser lorsque leurs amis les invitent.

---

(*) Département de la cybersécurité et de la prévention de la criminalité de haute technologie, Ministère de la Sécurité publique.

Source: https://baoquocte.vn/tri-tue-nhan-tao-nhung-nguy-co-doi-voi-tre-em-236977.html