Des plateformes comme Replika ou Character.ai sont présentées aux adolescents comme des « amis » joueurs, intelligents et empathiques. Des applications comme CrushOn.AI et DreamGF (un chatbot se faisant passer pour une petite amie IA) mettent également en avant l'attrait des conversations romantiques ou sexuelles.
L'IA générative et les compagnons IA connaissent un succès croissant auprès des jeunes, selon le Dr Gordon Ingram et Maître Vu Bich Phuong, maîtres de conférences en psychologie à l'Université RMIT. « À l'instar des réseaux sociaux, ces nouveaux usages de l'IA soulèvent de grandes questions pour les parents quant à leur capacité à contrôler les contenus auxquels leurs enfants ont accès », a déclaré le Dr Gordon Ingram.
Selon Maître Vu Bich Phuong, les jeunes enfants peuvent attribuer des caractéristiques humaines aux chatbots IA, les considérant comme sensibles ou émotionnellement conscients. Cela peut conduire à des interactions sociales unilatérales, où les enfants développent avec l'IA un lien émotionnel unilatéral, semblable à celui qu'ils entretiennent avec des personnages de dessins animés ou des célébrités, « suscitant des inquiétudes quant à la possibilité que de telles interactions remplacent les interactions réelles avec leurs amis dans le développement social des enfants ».
Lorsque les enfants sont privés d'interaction avec leurs pairs dans des situations difficiles, ils peuvent avoir une tolérance moindre à l'inconfort, une moindre résilience au rejet, voire une plus grande impulsivité, des traits souvent observés dans l'anxiété et le repli sur soi, explique Phuong. « Avec l'explosion des interactions sociales à sens unique entre les enfants et les outils d'IA, il s'agit d'un sujet urgent qui nécessite des recherches plus approfondies », conclut-elle.
Selon Phuong, des restrictions d'âge similaires devraient s'appliquer à l'IA. En effet, contrairement aux réseaux sociaux, les compagnons IA simulent des échanges et peuvent avoir un impact plus profond sur la psychologie des enfants vulnérables. Sans réglementation, les enfants pourraient croire à tort que chaque réponse de l'IA est moralement ou socialement appropriée. De plus, si des plateformes comme YouTube ou Facebook facilitent le signalement de contenus inappropriés, les mécanismes de signalement de nombreuses plateformes d'IA génératrice manquent de transparence pour les enfants et les parents.
Les universitaires du RMIT recommandent aux décideurs politiques d'exiger des plateformes d'IA qu'elles conçoivent des applications adaptées à l'âge des enfants, vérifient leur âge et autorisent des paramètres de modération de contenu pour garantir leur sécurité. Les mécanismes de signalement des contenus préjudiciables doivent également être facilement disponibles et accessibles. « Alors que l'IA s'intègre au quotidien des enfants au Vietnam et dans le monde entier, nous devons agir avec prudence. L'intelligence artificielle peut être une puissante aide à l'apprentissage, mais elle ne peut remplacer la richesse et la richesse de l'intelligence humaine, qui nous permet de vivre dans le monde émotionnel des relations humaines », a souligné le Dr Ingram.
Uyen Na
Source : https://baophapluat.vn/ai-sang-tao-noi-dung-khi-tre-lam-tuong-ao-that-post550555.html
Comment (0)