Les deepfakes sont des vidéos et des images créées ou modifiées numériquement grâce à l'intelligence artificielle (IA) ou au machine learning (ML). La pornographie créée grâce à cette technologie a commencé à circuler sur Internet il y a quelques années, lorsqu'un utilisateur de Reddit a partagé de faux clips pornographiques avec les visages de célébrités.
Photo : GI
N’importe qui peut être victime.
Depuis lors, les créateurs de deepfakes ont continué à publier des vidéos et des images similaires ciblant des influenceurs en ligne, des journalistes et d'autres personnes disposant de profils publics. Des milliers de vidéos de ce type existent sur de nombreux sites web.
Les technologies d’IA devenant de plus en plus accessibles, les utilisateurs peuvent transformer qui ils veulent en « star du porno » sans leur consentement ou, plus dangereux encore, utiliser la technologie pour diffamer ou faire chanter les autres.
Les experts affirment que le problème pourrait s’aggraver avec le développement d’outils d’IA génératifs qui s’entraînent sur des milliards d’images provenant d’Internet et génèrent du nouveau contenu à partir de données existantes.
« La réalité est que la technologie continuera de proliférer, d'évoluer et de devenir plus accessible et plus facile à utiliser », a déclaré Adam Dodge, fondateur d'EndTAB, un groupe qui propose des formations sur les abus technologiques. « Et tant que cela se produira, des personnes continueront inévitablement… à abuser de cette technologie pour nuire à autrui, principalement par le biais de violences sexuelles en ligne, de pornographie deepfake et de fausses photos de nus. »
Noelle Martin, de Perth, en Australie, a vécu cette réalité. Cette jeune femme de 28 ans a découvert des images pornographiques deepfake d'elle-même il y a dix ans, en cherchant sa propre photo sur Google par curiosité. À ce jour, Martin affirme ignorer qui a créé ces fausses images ou vidéos pornographiques. Elle soupçonne que quelqu'un a utilisé ses photos sur les réseaux sociaux pour créer des vidéos pornographiques.
Martin a tenté de contacter les sites pour faire supprimer les vidéos, mais ses efforts sont restés vains. Certains n'ont pas répondu. D'autres les ont retirées, mais les ont rapidement republiées. « On ne peut pas gagner », a déclaré Martin. « C'est sur Internet pour toujours et ça peut ruiner votre vie. »
Les efforts des entreprises technologiques pour y remédier
Certains modèles d’IA affirment avoir un accès restreint aux images pornographiques.
OpenAI a déclaré avoir supprimé le contenu pornographique des données utilisées pour entraîner son générateur d'images DALL-E, ce qui devrait limiter les risques d'utilisation abusive. L'entreprise filtre également les demandes et indique empêcher les utilisateurs de créer des images IA de célébrités et d'éminents hommes politiques . Midjourney, un autre modèle, bloque également l'utilisation de certains mots-clés et encourage les utilisateurs à signaler les images problématiques aux modérateurs.
Parallèlement, Stability AI a également déployé une mise à jour empêchant les utilisateurs de créer des images explicites. Ces changements font suite à des signalements d'utilisateurs utilisant cette technologie pour créer des nus inspirés de célébrités.
Motez Bishara, porte-parole de Stability AI, a déclaré que le filtre utilise une combinaison de mots-clés et d'autres techniques, comme la reconnaissance d'images, pour détecter la nudité. Les utilisateurs peuvent toutefois modifier le logiciel et créer ce qu'ils souhaitent, car l'entreprise a publié le code source de l'application.
Certaines sociétés de médias sociaux ont également renforcé leurs règles pour mieux protéger leurs plateformes contre les contenus préjudiciables.
Le mois dernier, TikTok a déclaré que tout contenu deepfake ou manipulé devait être étiqueté pour indiquer qu'il est faux ou modifié d'une manière ou d'une autre.
La plateforme de jeu Twitch a également récemment mis à jour ses politiques sur les deepfakes après qu'un streamer populaire nommé Atrioc a été surpris en train d'ouvrir un site porno deepfake dans son navigateur lors d'un livestream fin janvier.
Apple et Google ont déclaré avoir récemment supprimé une application de leurs boutiques d'applications pour avoir diffusé des vidéos deepfake à caractère sexuel pour commercialiser leurs produits.
De chanteuse occidentale à idole de K-pop.
Les recherches sur le deepfake pornographique sont rares, mais un rapport de 2019 de la société d'intelligence artificielle DeepTrace Labs a révélé qu'il était presque exclusivement utilisé contre les femmes. Les actrices occidentales étaient les plus ciblées, suivies des chanteuses de K-pop.
Le porte-parole de Meta, Dani Lever, a déclaré dans un communiqué que les politiques de l'entreprise restreignaient à la fois le contenu pour adultes généré par l'IA et non généré par l'IA, et qu'elles interdisaient également aux pages d'applications générant des deepfakes de faire de la publicité sur sa plateforme.
En février, Meta, ainsi que des sites pour adultes comme Only**** et Porn***, ont commencé à utiliser un outil en ligne appelé Take It Down, qui permet aux adolescents de signaler des images et des vidéos sexuellement explicites d'eux-mêmes publiées sur Internet. Le site prend en charge les vidéos de caméras espionnes et celles générées par l'IA.
Hoang Ton (selon AP)
Source
Comment (0)