L'IA crée du contenu - lorsque les enfants confondent « virtuel - réel »

(PLVN) - D'après les experts, les enfants et les adolescents passent plus de temps en ligne que jamais. Les adolescents expérimentent ChatGPT pour les aider dans leurs devoirs, jouer, résoudre des problèmes relationnels ou simplement discuter lorsqu'ils se sentent seuls. Certains enfants préfèrent discuter avec une IA plutôt qu'avec leurs amis, surtout lorsqu'ils traversent des moments difficiles. Certains jeunes explorent également plus en profondeur les applications d'assistance IA.

Des plateformes comme Replika ou Character.ai sont présentées aux adolescents comme des « amis » enjoués, intelligents et empathiques. Des applications comme CrushOn.AI et DreamGF (un chatbot se faisant passer pour une petite amie virtuelle) mettent également en avant l'attrait des conversations romantiques ou sexuelles.

D’après le Dr Gordon Ingram et Vu Bich Phuong, maître de conférences en psychologie à l’université RMIT, l’intelligence artificielle générative et les assistants vocaux virtuels sont de plus en plus populaires auprès des jeunes. « À l’instar des réseaux sociaux, ces nouvelles utilisations de l’IA soulèvent d’importantes questions chez les parents quant à leur capacité à contrôler les contenus auxquels leurs enfants ont accès », a déclaré le Dr Gordon Ingram.

Selon la professeure Vu Bich Phuong, les jeunes enfants peuvent attribuer des caractéristiques humaines aux chatbots, les percevant comme sensibles et dotés d'émotions. Cela peut engendrer des interactions sociales à sens unique, où les enfants développent un lien affectif unilatéral avec l'IA, semblable à celui qu'ils tissent avec des personnages de dessins animés ou des célébrités. « Ce qui soulève des questions quant à la possibilité que de telles interactions se substituent aux interactions réelles avec les amis dans le développement social des enfants. »

Selon Mme Phuong, lorsque les enfants ne sont pas confrontés à des situations stimulantes avec leurs pairs, ils peuvent présenter une moindre tolérance à l'inconfort, une moindre résilience au rejet, voire une impulsivité accrue, des traits souvent associés à l'anxiété et au repli sur soi. « Face à la multiplication des interactions sociales unilatérales entre les enfants et les outils d'intelligence artificielle, il s'agit d'un sujet urgent qui nécessite des recherches approfondies », ajoute-t-elle.

Selon Mme Phuong, des restrictions d'âge similaires devraient s'appliquer à l'IA. En effet, contrairement aux réseaux sociaux, les compagnons IA simulent des conversations interactives et peuvent avoir un impact plus profond sur la psychologie des enfants vulnérables. Sans réglementation, ces derniers pourraient croire, à tort, que toute réponse de l'IA est moralement ou socialement acceptable. Par ailleurs, si des plateformes comme YouTube ou Facebook permettent de signaler facilement les contenus inappropriés, les mécanismes de signalement de nombreuses plateformes d'IA générative manquent de transparence pour les enfants et leurs parents.

Des chercheurs de l'université RMIT recommandent aux décideurs politiques d'exiger des plateformes d'IA qu'elles conçoivent des applications adaptées à l'âge, vérifient l'âge des utilisateurs et proposent des paramètres de modération de contenu afin de garantir la sécurité des enfants. Des mécanismes de signalement des contenus préjudiciables doivent également être facilement accessibles. « Alors que l'IA s'intègre au quotidien des enfants au Vietnam et dans le monde entier, nous devons faire preuve de prudence. L'intelligence artificielle peut être un outil pédagogique précieux, mais elle ne saurait remplacer la richesse et la nature de l'intelligence humaine qui nous permettent de vivre pleinement les relations humaines », a souligné le Dr Ingram.

Uyen Na

Source : https://baophapluat.vn/ai-sang-tao-noi-dung-khi-tre-lam-tuong-ao-that-post550555.html