Avantages et risques liés à l'utilisation de chatbots IA par les enfants

SGGPO 24/10/2023 17h11

Bien que les chatbots IA présentent de nombreux avantages importants, si les utilisateurs ne sont pas conscients des risques potentiels que ces outils présentent pour les enfants, ils sont confrontés à des risques accrus de perte de données personnelles, de menaces pour la vie et de contenu inapproprié.

Les parents doivent guider leurs enfants pour qu’ils utilisent Internet en toute sécurité

L'apprentissage est désormais plus efficace que jamais grâce aux outils d'IA. Grâce à un chatbot IA, les utilisateurs peuvent trouver des informations utiles sur n'importe quel sujet en une seule phrase.

Dans ce contexte, les enfants de tous âges du monde entier ont accès à des outils d’IA, mais ces outils ne nécessitent que peu ou pas de consentement avant utilisation.

Les chatbots IA ont facilité la navigation dans l'information sans ouvrir des dizaines d'onglets, lire d'innombrables articles et pour les enfants, cela est particulièrement important avec leur curiosité et l'IA peut les aider à mieux s'engager dans l'apprentissage.

De plus, l’IA fournit une plateforme qui permet aux enfants de perfectionner leurs compétences linguistiques et de discuter librement sans limite de temps. Cependant, cela comporte également des risques.

Concernant les contenus en ligne, M. Noura Afaneh, analyste de contenu web chez Kaspersky, a souligné certains risques liés à l'utilisation de chatbots IA. Parmi eux, ChatGPT a battu un record avec la croissance la plus rapide du nombre d'utilisateurs, mais ne vérifie pas l'âge des utilisateurs, ce qui constitue une menace pour la confidentialité des données des enfants.

De plus, le contenu fourni par ChatGPT n'est parfois pas totalement exact et peut facilement conduire les utilisateurs à recevoir de fausses informations. Cela inclut de fausses références et des articles inexistants, ce qui contribue également à faire de ChatGPT un outil de plagiat pour certains étudiants.

De plus, le chatbot « My AI » de Snapchat est également un chatbot qui est beaucoup utilisé par les enfants car l’application permet aux utilisateurs dès 13 ans de l’utiliser sans contrôle parental, ce qui soulève des questions sur la vie privée des enfants et la conservation de leurs données par l’application, a donné M. Noura Afaneh en exemple.

L’un des risques est que les enfants prennent l’IA pour un véritable ami et agissent selon ses conseils, qui « peuvent inclure du contenu biaisé, inexact, nuisible ou trompeur ».

En tant que parents, il est important de comprendre qu'interdire l'utilisation de ce chatbot IA n'est pas toujours le meilleur moyen de protéger les enfants, car ceux-ci peuvent toujours être exposés à de nouveaux contenus en ligne. Les parents doivent donc jouer un rôle actif dans l'équilibre des risques ci-dessus et travailler à les atténuer.

Conseils aux parents pour minimiser les risques liés aux chatbots IA :

• Enseignez aux enfants la sécurité sur Internet : Fournir aux enfants des connaissances sur la sécurité et la confidentialité en ligne est un moyen efficace d’empêcher le partage d’informations personnelles avec des inconnus, même des chatbots.

• Découvrez les chatbots IA avec vos enfants : Kaspersky encourage les parents à guider leurs enfants sur la façon de les utiliser, ainsi qu'à les sensibiliser aux questions qu'ils doivent et ne doivent pas poser aux chatbots IA.

• Surveiller, contrôler et définir les paramètres de confidentialité : L'un des outils de protection en ligne les plus puissants pour les parents est une solution de sécurité complète. De plus, les applications parentales à l'ère de la technologie offrent des ressources indispensables pour protéger les enfants en ligne.

Source