Risques pour les enfants

L'intelligence artificielle (IA) est un domaine de plus en plus important qui a un impact profond sur de nombreux aspects de la vie moderne. Les enfants, de par leur curiosité, leur capacité d'apprentissage et leur sensibilité à la technologie, ne peuvent échapper à l'influence de l'IA.

L’IA ne se contente pas de modifier la façon dont les enfants apprennent et interagissent avec le monde qui les entoure ; elle ouvre également de nouvelles perspectives et pose des défis majeurs pour garantir un environnement sûr et propice à leur épanouissement.

L'intelligence artificielle (IA) devient un domaine de plus en plus important et a un impact profond sur de nombreux aspects de la vie moderne.

Les risques accompagnent la commodité

Grâce à son intelligence et à sa puissance de calcul, l'IA est devenue une composante indispensable de la vie humaine, y compris pour les enfants. Elle crée des tendances à chaque fois que les enfants se connectent à Internet, influençant les programmes d'apprentissage, les divertissements, etc. ; elle apporte de nombreux avantages et commodités, mais présente également des risques pour les enfants, notamment en matière de protection de la vie privée, de sécurité et d'impacts psychologiques et comportementaux.

L'IA a permis une avancée majeure dans l'amélioration du système éducatif et des méthodes d'apprentissage pour les enfants au Vietnam ; elle ouvre de nombreuses opportunités, contribue à améliorer et à développer leurs compétences ; elle fournit des applications d'apprentissage interactives dans le cyberespace ; elle favorise la personnalisation ; elle crée un environnement d'apprentissage intéressant et stimulant… Les enfants peuvent accéder à un vaste répertoire de connaissances et d'exercices et recevoir un retour d'information instantané du système d'IA.

Actuellement au Vietnam, de nombreux établissements scolaires utilisent des logiciels et des programmes éducatifs en ligne faisant appel à l'intelligence artificielle, tels que Hocmai.vn, VnEdu, GoMaths, STEM Youth Science and Technology, Codelearn et CoderSchool.

La pensée et la créativité des enfants se développent également lorsqu'ils pratiquent des activités ludiques et divertissantes sur des logiciels basés sur l'IA tels que les jeux vidéo intelligents (Garena Lien Quan Mobile, PUBG Mobile ou Foody Crush), les applications de dessin (Colorize, Adobe Photoshop)...

Ces logiciels offrent non seulement des moments de détente et des expériences de divertissement uniques, mais stimulent également l'intelligence, la créativité et la logique des enfants.

Grâce à son intelligence et sa praticité, l'IA simplifie la vie des enfants en la rendant plus automatisée et plus confortable. Les applications comme les assistants virtuels tels que Siri, Google Assistant ou Grab ne leur sont plus étrangères et sont désormais utilisées avec aisance par les enfants, qui les assistent dans leurs activités quotidiennes : utiliser leur smartphone pour rechercher des informations, réserver une voiture, faire des achats en ligne ou organiser leur emploi du temps. L'IA est également présente dans les objets connectés de la maison, comme les lave-linge et les réfrigérateurs intelligents, qui sont commandés par la voix, afin de répondre au mieux aux besoins et d'améliorer le quotidien des enfants.

Cependant, les risques liés à l'IA sont loin d'être négligeables. L'IA modifie les interactions entre les humains et les machines, ainsi qu'entre les individus ; elle influence la psychologie et le comportement des enfants ; et elle porte atteinte à la confidentialité et à la vie privée.

De nos jours, les enfants sont presque trop dépendants de la technologie, notamment des logiciels et applications intelligents utilisant l'IA. Plus ils interagissent avec les machines, plus ils risquent de souffrir de dépression, de troubles du comportement, voire d'addiction, et d'une forte dépendance à l'IA, en particulier dans leurs apprentissages, ce qui réduit leur capacité à réfléchir, à faire des recherches, à travailler et à être proactifs.

De plus, grâce à des algorithmes intelligents, l'IA peut facilement s'immiscer dans la vie privée des enfants et collecter toutes sortes d'informations : leurs loisirs, leurs données personnelles, leurs images… La vie et les secrets des enfants ne sont alors plus en sécurité. C'est d'autant plus préoccupant que les enfants n'ont pas la capacité de comprendre et d'évaluer les risques, ni de saisir les graves conséquences de la divulgation d'informations personnelles, d'images, etc.

De plus, les enfants risquent d'accéder à des informations inappropriées. Tous les calculs de l'IA reposent sur la copie, des calculs « mécaniques », sans sélection ni contrôle ; ils peuvent donc diffuser des informations néfastes et toxiques telles que de fausses nouvelles, des images pornographiques, des contenus dépravés ou violents…

De plus, le développement de l'IA dans le domaine de l'éducation a engendré de manière invisible des inégalités, des pressions et des comparaisons entre les enfants d'aujourd'hui.

Récemment, l'UNICEF a également mis en garde contre les risques liés à l'intelligence artificielle pour les enfants. L'agence a notamment souligné que l'IA peut exacerber les inégalités et les biais lorsque certains établissements scolaires utilisent des machines pour trier les candidatures, excluant ainsi involontairement certains groupes d'élèves. De plus, les algorithmes d'IA peuvent inciter les enfants à se comparer aux autres, engendrant un manque de confiance en soi. Cela peut nuire à leur estime de soi et à leur santé mentale.

Un autre risque important réside dans le déséquilibre et la déconnexion entre les personnes. Une dépendance excessive à l'égard de l'IA et des technologies peut entraîner une perte de compétences sociales, de communication directe et de capacité à nouer des relations chez les enfants. Ceci peut avoir des conséquences négatives sur leur développement global, notamment sur le plan émotionnel et comportemental. Les enfants ne sauront plus comment maîtriser et exprimer leurs émotions, ni comment interagir avec leur entourage.

Selon les données publiées par les fournisseurs de services, en mars 2023, vnEdu était utilisé dans 57 provinces et villes, avec plus de 3 millions de dossiers d'élèves provenant de 9 000 écoles à travers le pays ; en ne comptant que les élèves du secondaire, FUNiX comptait actuellement 3 090 élèves inscrits à des cours de programmation ; fin 2020, hocmai.vn comptait plus de 4,5 millions d'élèves inscrits.

Protéger les enfants des dangers de l'IA

Pour les enfants, l'utilisation de l'IA exige prudence et une supervision attentive de la part des adultes. Il est primordial de veiller à ce qu'ils soient sensibilisés et accompagnés dans une utilisation sûre des technologies, tout en préservant un équilibre entre progrès technique et autres facteurs liés à leur développement. Il est donc nécessaire de mettre en place une reconnaissance adéquate et des solutions adaptées pour permettre aux enfants d'accéder à l'IA et de l'utiliser en toute sécurité.

Il est tout d'abord nécessaire de créer un environnement technologique sûr pour les enfants. L'État et les organismes compétents doivent édicter des réglementations relatives à la censure des contenus avant la mise sur le marché d'applications et de logiciels utilisant l'intelligence artificielle. En particulier, les fournisseurs de services sont tenus d'afficher des avertissements concernant les contenus destinés aux enfants.

Deuxièmement, pour que les enfants puissent se protéger des risques liés à l'IA, la sensibilisation est primordiale. Il est essentiel qu'ils acquièrent des connaissances de base en IA, en technologie, en ingénierie, etc., ainsi que des compétences relationnelles pour une utilisation responsable des technologies et des réseaux sociaux.

Il intègre notamment des instructions sur l'utilisation des technologies et des applications intelligentes, ainsi que des avertissements concernant les risques et les aspects négatifs de ces applications pour les enfants, et une sensibilisation de base à la protection de la vie privée et à la responsabilité en ligne...

Troisièmement, il est nécessaire de mettre en place des mesures pour surveiller et encadrer l'utilisation des technologies d'intelligence artificielle par les enfants. Cela implique de ne pas leur permettre d'y accéder librement. La gestion peut concerner le temps d'utilisation, le contenu et les modalités d'utilisation afin de garantir la sécurité des enfants et d'éviter les conséquences et impacts indésirables. Cela comprend la mise en place de règles d'utilisation, la surveillance des activités en ligne des enfants et la création d'un espace de discussion et d'échange où ils peuvent s'exprimer librement et facilement.

La protection des enfants dans le cyberespace nécessite une attention particulière dans les actions de protection de l'enfance à venir. (Source : Internet)

Quatrièmement, il est nécessaire d'encadrer l'accès des enfants à l'IA et son utilisation. Au lieu de les laisser utiliser l'IA uniquement à des fins de divertissement, ce qui peut facilement avoir des effets négatifs, les parents doivent les encourager à utiliser cette technologie de manière créative et utile ; les guider vers l'accès à des logiciels et applications utiles pour l'apprentissage, la recherche, la réflexion, la créativité, etc.

Cinquièmement, pour que les enfants n'utilisent pas l'IA passivement et exploitent pleinement ses fonctionnalités, il est essentiel de développer chez eux des compétences pratiques et un esprit critique. Cela implique de leur apprendre à évaluer l'information, à penser de manière analytique, à résoudre des problèmes et à travailler en groupe. Ainsi, ils ne seront pas dépendants de l'IA, pourront se protéger des risques potentiels et maîtriseront véritablement la technologie.

Cet équipement peut être fourni par le biais de programmes et de cours organisés sur les compétences de vie, l'utilisation et la maîtrise des technologies, et sur la manière de se protéger des risques en ligne tels que les abus, les atteintes aux droits d'auteur et les contenus nuisibles.

Sixièmement, pour relever les défis de l'IA, une coordination est nécessaire entre les parents, les enseignants, les écoles, les autorités et les prestataires de services, définissant clairement les responsabilités de chaque partie dans la protection des enfants contre les risques de l'IA.

En outre, des politiques et des réglementations claires devraient être mises en place concernant la protection de la vie privée et des données personnelles des enfants ; les fournisseurs de services d’IA doivent s’engager à protéger les renseignements personnels afin de fournir un environnement sûr et de protéger les enfants contre les abus.

Au Vietnam, les programmes de formation à l'IA pour enfants sont encore relativement nouveaux et peu répandus. Certaines organisations, centres éducatifs et entreprises ont mis en place des activités de formation à l'IA, comme des cours de robotique et de programmation, offrant ainsi aux enfants la possibilité d'expérimenter et d'apprendre.

Toutefois, des investissements et un soutien de la part du gouvernement et des organismes compétents sont nécessaires pour faire des programmes de formation à l'IA pour enfants une partie indispensable de l'éducation au Vietnam.

Il est crucial de comprendre et de gérer l'impact de l'IA sur les enfants. Nous devons tirer parti des opportunités offertes par cette technologie, tout en veillant à la protection et à la sécurité des enfants lors de leurs interactions avec l'IA.

Une étroite coordination entre l'État, les autorités, les familles, les écoles et les prestataires de services est indispensable pour bâtir un environnement éducatif nouveau, équitable et inclusif, qui permette aux enfants de comprendre et d'utiliser l'IA de manière intelligente et sécurisée. C'est la seule façon de garantir que les enfants puissent tirer profit des progrès de l'IA, s'épanouir, devenir des individus confiants et créatifs et contribuer positivement à la société.

Quelques suggestions concernant les règles d'utilisation de l'intelligence artificielle pour les enfants

- Durée d'utilisation : définir clairement les plages horaires d'utilisation de l'IA, en distinguant nettement les périodes d'étude et de jeu, et en limitant le temps passé par les enfants à se divertir ; limiter les actions interdites pendant les périodes d'étude…

- Contenu de l'application : gérer et contrôler le contenu des logiciels d'IA utilisés par les enfants ; comprendre ce que les enfants apprennent, ce à quoi ils jouent et ce qu'ils explorent ; définir clairement ce que les enfants peuvent et ne peuvent pas faire.

- Informations personnelles des enfants : gérer strictement les informations personnelles des enfants ; établir une règle interdisant aux enfants de divulguer publiquement des informations personnelles telles que leur nom complet, leur école, leur adresse, leur numéro de maison, leur numéro de téléphone, etc. ; expliquer aux enfants que ces informations peuvent être collectées et utilisées par d’autres à des fins malveillantes.

- Instaurez des sanctions pour les enfants qui ne respectent pas les règles. Il est important d'en discuter avec l'enfant avant de lui demander de s'y conformer. Parallèlement, les parents doivent faire preuve de fermeté et de cohérence dans l'application des sanctions afin d'inculquer de bonnes habitudes à l'enfant.

- Apprenez aux enfants à refuser les invitations de leurs amis.

---

(*) Département de la cybersécurité et de la prévention de la criminalité de haute technologie, Ministère de la Sécurité publique.

Source: https://baoquocte.vn/tri-tue-nhan-tao-nhung-nguy-co-doi-voi-tre-em-236977.html