Les enfants risquent de devenir victimes de l'IA lorsque leurs parents publient des photos en ligne

L'explosion de l'information et des connexions sur les réseaux sociaux en particulier et sur Internet en général a incité de nombreuses personnes à partager leurs émotions et les événements de leur vie privée sur Internet sans anticiper les dangers. Non seulement ils publient des photos et des vidéos d'eux-mêmes en ligne, mais de nombreux adultes s'autorisent également à publier du contenu contenant des visages ou des voix d'enfants sans autorisation. Une fois ces photos et vidéos publiées en ligne, toute personne y ayant accès peut les utiliser sans restriction.

En juillet dernier, la chaîne allemande Deutsche Telekom a diffusé une fausse publicité montrant comment des images de jeunes enfants peuvent être détournées en ligne grâce à l'IA (intelligence artificielle) à diverses fins. Intitulée « Un message d'Ella » , la vidéo utilise l'IA et le deepfake pour créer une version adulte d'images et de vidéos de la jeune Ella publiées en ligne par ses parents.

"Ella người lớn" được AI tạo ra từ hình ảnh đăng trên mạng xã hội của cô bé Ella 9 tuổi — « Adult Ella » créée par l'IA à partir d'images de réseaux sociaux d'Ella, 9 ans, dans la vidéo d'avertissement de Deutsche Telekom

« AI Ella » peut bouger et parler comme une vraie personne, ce qui a stupéfié ses parents lorsqu'ils ont vu leur fille sur grand écran. Elle peut même pleurer et s'exprimer comme un humain.

« Je sais que pour toi, ces photos sont des souvenirs. Mais pour d'autres, ce sont des données. Et pour moi, elles pourraient être le début d'un avenir terrible où mon identité pourrait être volée, où je pourrais finir en prison pour des choses que je n'ai pas faites… Ce que tu partages en ligne sont des jalons numériques qui me suivront toute ma vie », a partagé Ella, personnage d'IA.

Avec une seule photo partagée, l'IA peut créer une version adulte d'une fillette de 9 ans. Le deepfake extrait les voix des vidéos et les transforme en voix adultes. Les images et les vidéos peuvent être entièrement falsifiées, et les données d'identification personnelle deviennent des informations précieuses volées à des fins illégales. Et ce n'est pas tout : les malfaiteurs peuvent utiliser des images collectées en ligne pour faire des copier-coller, utiliser l'IA pour créer de la pornographie infantile ou une série de photos qui se moquent, diffament et déforment la vérité…

« Des études récentes montrent qu'un enfant de cinq ans a en moyenne environ 1 500 photos publiées en ligne sans son consentement, publiées par nul autre que la personne en qui il a le plus confiance : sa mère ou son père », a déclaré Christian Loefert, responsable de la communication et du marketing chez Deutsche Telekom.

Selon le New Yorker, les experts estiment que d'ici 2030, les deux tiers des vols d'identité seront causés par le partage incontrôlé de photos sur les réseaux sociaux. Deutsche Telekom cite également un rapport indiquant que plus de 75 % des parents partagent désormais des données concernant leurs enfants sur les réseaux sociaux. Par ailleurs, huit parents sur dix sont suivis par des membres sur les réseaux sociaux sans jamais les avoir rencontrés en personne.

Récemment, le développement d'outils d'IA s'est popularisé, touchant les utilisateurs ordinaires via une série d'applications mobiles. Au lieu de se montrer prudents avec ces programmes, nombreux sont ceux qui publient sans discernement des photos personnelles ou familiales sur les réseaux sociaux. Cette pratique fournit involontairement à l'IA une grande quantité de données gratuites permettant d'en apprendre davantage sur les individus, de la structure faciale à l'environnement.

De nombreux experts en sécurité avertissent que dans toutes les situations, même avec les nouvelles tendances, les utilisateurs doivent toujours être prudents et ne pas échanger des données personnelles, en particulier leurs propres données faciales et celles de leurs proches, contre quelques minutes de plaisir sur les réseaux sociaux.

Lien source