Des experts mettent en garde contre les risques de l'intelligence artificielle pour les enfants

Pour minimiser les risques que l'intelligence artificielle fait peser sur les enfants, il n'est pas nécessaire de leur interdire de l'utiliser, mais surtout de les sensibiliser aux risques afin qu'ils puissent se protéger dans l'environnement en ligne.

Mme Dinh Thi Nhu Hoa a déclaré que les applications intégrant l'intelligence artificielle (IA) sont de plus en plus populaires et ont un impact significatif sur les enfants. (Photo : NVCC)

C’est l’avis de Mme Dinh Thi Nhu Hoa, chef du département d’inspection du Centre vietnamien de réponse aux urgences cybernétiques (VNCERT/CC), du département de la sécurité de l’information du ministère de l’Information et des Communications , exprimé dans les journaux The World et Vietnam , concernant les risques et les solutions pour protéger les enfants des impacts de l’intelligence artificielle.

De nombreux risques liés à la dépendance des enfants à l'IA

Ces derniers temps, les applications intégrant l'intelligence artificielle (IA) ont connu une popularité croissante. Parmi elles, les enfants sont particulièrement vulnérables aux outils d'IA. Avez-vous des mises en garde à ce sujet ?

De nos jours, les applications intégrant l'intelligence artificielle (IA) sont de plus en plus populaires, partagées et utilisées par un grand nombre de personnes. Parmi celles-ci, on peut citer les applications de retouche photo et les applications de messagerie instantanée (chatbots). Cependant, beaucoup oublient que les enfants sont les plus vulnérables face aux dangers potentiels de l'IA, avec des conséquences à long terme. Les enfants de tous âges peuvent facilement accéder à ces outils, qui ne nécessitent d'ailleurs quasiment aucun engagement avant leur utilisation.

Aujourd'hui, les enfants ont facilement accès aux outils d'IA, mais leur utilisation est soumise à presque aucune restriction. Quels sont, selon vous, les risques auxquels ils s'exposent ?

D'après les statistiques, le taux d'utilisation d'Internet chez les jeunes de 12 à 17 ans est très élevé : 93 % en milieu urbain et 88 % en milieu rural. Plus précisément, 98 % des jeunes se connectent à Internet via un smartphone.

À mon avis, l'intelligence artificielle présente certains risques pour les enfants. Premièrement , le risque d'accès à des informations inappropriées. Les informations fournies aux utilisateurs par des applications intégrant l'IA, comme ChatGPT, sont des données agrégées provenant de nombreuses sources sur Internet. Ces données peuvent être exactes ou inexactes. De plus, elles ne sont ni sélectionnées, ni évaluées, ni filtrées en fonction de l'âge de l'utilisateur. Par conséquent, les résultats de recherche peuvent afficher de fausses informations, des contenus inappropriés ou violents.

Deuxièmement , le risque de fuite d'informations privées, notamment les données personnelles des enfants. Ces derniers partagent accidentellement des informations personnelles en ligne et deviennent facilement victimes d'intrusion illégale dans leurs données lorsqu'ils utilisent des applications de retouche photo ou des applications de messagerie instantanée (chatbots).

Mardi , des adolescents ont été incités à participer à des défis dangereux. Des cas alarmants ont été constatés où des jeunes filles consultent ChatGPT pour obtenir des informations sur la santé et des programmes alimentaires. L'IA peut fournir rapidement des informations, des plans détaillés et des conseils spécifiques. Cependant, ces informations ne reposent sur aucune donnée réelle et ne sont qu'un assemblage aléatoire d'informations trouvées sur Internet.

Parallèlement, exposés aux chatbots dès leur plus jeune âge, les enfants risquent de confondre l'intelligence artificielle avec un véritable ami et de suivre les conseils de l'IA, alors que ces conseils peuvent contenir des informations biaisées, inexactes, nuisibles ou trompeuses.

Quatrièmement, l'impact sur la psychologie, la physiologie et le comportement des enfants. Grâce aux outils d'IA, les utilisateurs peuvent trouver des informations sur n'importe quel sujet en posant une seule question. Les chatbots d'IA ont simplifié la recherche d'informations, évitant ainsi de devoir consulter des dizaines de sites web et lire d'innombrables articles.

Ainsi, une interaction excessive avec les machines technologiques peut entraîner dépression, anxiété ou perte de compétences sociales due à une diminution des interactions avec autrui. De plus, la dépendance excessive des enfants à l'égard de l'IA réduit leur capacité d'apprentissage et d'initiative.

La dépendance excessive des enfants à l'égard de l'IA réduit leur capacité d'apprendre et de travailler de manière proactive. (Source : Internet)

Aidez les enfants à se comporter de manière civilisée et bienveillante en ligne.

Quelle est, selon vous, la solution durable pour minimiser les conséquences des outils d'IA sur les enfants ?

D'après un rapport de l'UNICEF de 2022, 23 % des enfants déclarent avoir parfois vu accidentellement des images ou des vidéos à caractère sensible diffusées en ligne. En réalité, les contenus pornographiques sont omniprésents ; bloquer les sites pornographiques est donc insuffisant et inefficace. Les enfants ont besoin d'un outil performant pour filtrer les contenus en ligne et les protéger ainsi des informations néfastes et toxiques.

Pour minimiser les risques liés à l'IA pour les enfants, il n'est pas nécessaire de leur interdire son utilisation, mais surtout de les sensibiliser aux risques et de les aider à se protéger en ligne. Selon moi, certains principes permettent aux enfants de rester en sécurité sur Internet : la règle des 4T (Conformité, Intelligence, Prudence et Bienveillance).

Tout d'abord, respectez les règles d'utilisation d'Internet définies par votre fournisseur d'accès et votre établissement scolaire. Respectez également la loi, notamment les règles de la communauté de certaines applications d'intelligence artificielle qui ne sont pas destinées aux enfants de moins de 13 ans.

Deuxièmement, fournir les connaissances et les compétences nécessaires pour participer à des environnements de réseau intelligents, telles que les compétences en matière de protection des informations personnelles sur le réseau, les compétences en matière d'utilisation sécurisée des réseaux sociaux et la gestion des mots de passe pour garantir la sécurité.

Troisièmement, soyez prudent avec vos amis en ligne, car certaines personnes pourraient prétendre vous contacter. Soyez vigilant lorsque vous cliquez sur des liens suspects, méfiez-vous des offres trop alléchantes et soyez prudent lorsque vous partagez des informations en ligne, notamment dans les messageries instantanées, afin de minimiser les risques de fraude. Enfin, faites preuve de courtoisie et de bienveillance en ligne : n’envoyez pas de messages au contenu inapproprié ou offensant et n’y répondez pas.

Comment les parents doivent-ils se comporter en tant que « gardiens » du cyberespace pour leurs enfants ?

Les parents peuvent utiliser certains outils technologiques pour protéger leurs enfants contre les contenus inappropriés, tels que Cyberpurify Kid, SafeGate Family, BKAV Safe Kid, Mobile Guard for Kid, SafeZone, etc.

De plus, les parents doivent fixer des règles concernant l'utilisation des ordinateurs et des appareils connectés par leurs enfants. Ces règles varient selon l'âge. Il est important de n'autoriser les enfants à utiliser les réseaux sociaux que lorsqu'ils sont suffisamment âgés pour respecter les principes communautaires recommandés par ces plateformes.

Les parents doivent notamment être vigilants et surveiller de près les contenus en ligne auxquels leurs enfants accèdent. Il est important de leur fournir des solutions de sécurité informatique, comme des logiciels antivirus et anti-malware, des outils de blocage des contenus malveillants et des produits permettant de contrôler et de bloquer les contenus dangereux auxquels leurs enfants ont accès.

Merci!

Le Vietnam et d'autres pays de l'ASEAN ont convenu d'adopter la Déclaration sur la protection des enfants contre toutes les formes d'exploitation et d'abus en ligne au sein de l'ASEAN en 2019, puis ont adopté en 2021 la Déclaration sur l'élimination du harcèlement au sein de l'ASEAN, y compris le harcèlement en ligne.

Source: https://baoquocte.vn/chuyen-gia-canh-bao-ve-nhung-nguy-co-cua-tri-tue-nhan-tao-doi-voi-tre-em-251593.html