Les enfants risquent de devenir victimes de l'IA lorsque leurs parents publient des photos en ligne

L'explosion de l'information et des connexions sur les réseaux sociaux en particulier et sur Internet en général a incité de nombreuses personnes à partager leurs émotions et les événements de leur vie privée sur Internet sans anticiper les dangers. Non seulement ils publient des images et des vidéos d'eux-mêmes en ligne, mais de nombreux adultes s'autorisent également à publier du contenu contenant des visages ou des voix d'enfants sans autorisation. Une fois ces images et vidéos publiées en ligne, toute personne y ayant accès peut les utiliser sans restriction.

En juillet dernier, l'opérateur allemand Deutsche Telekom a diffusé une fausse publicité montrant comment des images de jeunes enfants peuvent être détournées en ligne, grâce à l'IA (intelligence artificielle) à diverses fins. Intitulée « Un message d'Ella » , la vidéo utilise l'IA et le deepfake pour créer une version adulte d'images et de vidéos de la jeune Ella publiées en ligne par ses parents.

"Ella người lớn" được AI tạo ra từ hình ảnh đăng trên mạng xã hội của cô bé Ella 9 tuổi — « Adult Ella » créée par l'IA à partir d'images de réseaux sociaux d'Ella, 9 ans, dans la vidéo d'avertissement de Deutsche Telekom

« AI Ella » peut bouger et parler comme une vraie personne, ce qui a stupéfié ses parents lorsqu'ils ont vu leur fille sur grand écran. Elle peut même pleurer et s'exprimer comme un humain.

« Je sais que pour vous, ces photos sont des souvenirs. Mais pour d'autres, ce sont des données. Et pour moi, elles pourraient être le début d'un avenir terrible où mon identité pourrait être volée, où je pourrais finir en prison pour des choses que je n'ai pas faites… Ce que vous partagez en ligne sont des étapes numériques qui me suivront toute ma vie », a partagé Ella, personnage d'IA.

Avec une seule photo partagée, l'IA peut créer une version adulte d'une fillette de 9 ans. Le deepfake sépare les voix des vidéos et les transforme en voix adultes. Les images et les vidéos peuvent être entièrement falsifiées, et les données d'identification personnelle deviennent des informations précieuses volées à des fins illégales. Et ce n'est pas tout : les malfaiteurs peuvent utiliser des images collectées en ligne pour faire des copier-coller, utiliser l'IA pour créer de la pornographie infantile ou une série de photos qui se moquent, diffament et déforment la vérité…

Christian Loefert, responsable de la communication et du marketing chez Deutsche Telekom, a déclaré : « Des études récentes montrent qu'un enfant de cinq ans a en moyenne environ 1 500 photos publiées en ligne sans son consentement, publiées par nul autre que la personne en qui il a le plus confiance : sa mère ou son père. »

Selon le New Yorker, les experts estiment que d'ici 2030, les deux tiers des vols d'identité seront causés par le partage incontrôlé de photos sur les réseaux sociaux. Deutsche Telekom cite également un rapport révélant que plus de 75 % des parents partagent désormais des données concernant leurs enfants sur les réseaux sociaux. Parallèlement, huit parents sur dix ont des abonnés sur les réseaux sociaux sans jamais les avoir rencontrés en personne.

Récemment, le développement d'outils d'IA est devenu de plus en plus populaire, atteignant les utilisateurs ordinaires via une série d'applications sur appareils mobiles. Au lieu de faire preuve de prudence avec ces programmes, nombreux sont ceux qui publient sans précaution des photos personnelles ou familiales sur les réseaux sociaux. Cette pratique fournit ainsi à l'IA une grande quantité de données gratuites permettant d'en apprendre davantage sur les individus, de la structure faciale à l'environnement.

De nombreux experts en sécurité avertissent que dans toutes les situations, même avec les nouvelles tendances, les utilisateurs doivent toujours être prudents et ne pas échanger des données personnelles, en particulier leurs données faciales et celles de leurs proches, contre quelques minutes de plaisir sur les réseaux sociaux.

Lien source