La pornographie deepfake, un problème dans la course à l'IA

Les deepfakes sont des vidéos et des images créées ou modifiées numériquement à l'aide de l'intelligence artificielle (IA) ou de l'apprentissage automatique (AA). Les contenus pornographiques créés grâce à cette technologie ont commencé à circuler sur Internet il y a quelques années, lorsqu'un utilisateur de Reddit a partagé de faux clips pornographiques mettant en scène des célébrités.

Photo : GI

N'importe qui peut devenir une victime.

Depuis, les créateurs de deepfakes publient régulièrement des vidéos et des images similaires ciblant des influenceurs, des journalistes et d'autres personnalités publiques. Des milliers de ces vidéos circulent sur de nombreux sites web.

Avec l'accessibilité croissante des technologies d'IA, les utilisateurs peuvent transformer n'importe qui en « star de films pornographiques » sans son consentement, ou, plus dangereusement encore, utiliser cette technologie pour diffamer ou faire chanter autrui.

Les experts affirment que le problème pourrait s'aggraver avec le développement d'outils d'IA généralisés, entraînés sur des milliards d'images provenant d'Internet et générant du nouveau contenu à partir de données existantes.

« La réalité, c'est que la technologie va continuer de proliférer, d'évoluer et de devenir toujours plus facile et accessible », a déclaré Adam Dodge, fondateur d'EndTAB, une association qui propose des formations sur les méfaits des technologies. « Et tant que cela continuera, les gens continueront d'utiliser ces technologies à mauvais escient pour nuire à autrui, principalement par le biais de violences sexuelles en ligne, de la pornographie truquée (deepfake) et de la nudité truquée. »

Noelle Martin, originaire de Perth en Australie, en a fait l'expérience. Cette jeune femme de 28 ans a découvert ses propres images pornographiques truquées il y a 10 ans, lorsqu'elle a utilisé Google par curiosité pour rechercher des photos d'elle. À ce jour, elle affirme ne pas savoir qui a créé ces images et vidéos pornographiques truquées. Elle soupçonne que quelqu'un a utilisé des images de ses réseaux sociaux pour créer ces vidéos.

Malgré les tentatives de Martin pour contacter les sites web et faire retirer les vidéos, ses efforts furent vains. Certains ne répondirent pas. D'autres les retirèrent, mais les republièrent aussitôt. « C'est peine perdue », déplora Martin. « Elles resteront sur internet indéfiniment et pourraient ruiner ma vie. »

Les efforts déployés par les entreprises technologiques pour rectifier la situation.

Certains modèles d'IA ont indiqué avoir restreint l'accès aux images pornographiques.

OpenAI affirme avoir supprimé les contenus pornographiques des données utilisées pour entraîner son outil de génération d'images DALL-E, ce qui limitera les risques d'utilisation abusive. L'entreprise filtre également les requêtes et indique empêcher les utilisateurs de créer des images de célébrités et de personnalités politiques par IA. Midjourney, un autre modèle, bloque également l'utilisation de certains mots-clés et encourage les utilisateurs à signaler les images problématiques aux modérateurs.

Parallèlement, Stability AI a également publié une mise à jour afin d'empêcher les utilisateurs de créer des images à caractère sensible. Ces modifications font suite à des signalements indiquant que certains utilisateurs créaient des photos de nu inspirées de célébrités grâce à cette technologie.

Selon Motez Bishara, porte-parole de Stability AI, le filtre utilise une combinaison de mots-clés et d'autres techniques, comme la reconnaissance d'images, pour détecter la nudité. Cependant, les utilisateurs peuvent manipuler le logiciel et créer ce qu'ils souhaitent, car l'entreprise a publié le code source de l'application en open source.

Certaines entreprises de médias sociaux ont également durci leurs règles afin de mieux protéger leurs plateformes contre les contenus préjudiciables.

Le mois dernier, TikTok a déclaré que tout contenu deepfake ou manipulé devait être étiqueté pour indiquer qu'il était faux ou avait été modifié d'une manière ou d'une autre.

La plateforme de jeux vidéo Twitch a récemment mis à jour sa politique concernant les images deepfake après qu'un streamer populaire nommé Atrioc a été surpris en train d'accéder à un site web pornographique deepfake sur son navigateur lors d'une diffusion en direct fin janvier.

Apple et Google ont récemment annoncé avoir retiré de leurs boutiques d'applications une application qui utilisait des vidéos deepfake à caractère sexuel pour promouvoir des produits.

Des chanteurs occidentaux aux idoles de la K-pop.

Les recherches sur la pornographie truquée (deepfake) sont rares, mais un rapport de 2019 de la société d'IA DeepTrace Labs a révélé qu'elle était presque entièrement utilisée contre les femmes, les actrices occidentales étant les plus ciblées, suivies des chanteuses de K-pop.

Dani Lever, porte-parole de Meta, a déclaré dans un communiqué que la politique de l'entreprise restreint les contenus pour adultes générés par l'IA et ceux générés par d'autres moyens, et empêche également la page de l'application de création de deepfakes de faire de la publicité sur sa plateforme.

En février, Meta, ainsi que des sites pour adultes comme Only**** et Porn***, ont commencé à participer à un outil en ligne appelé Take It Down, qui permet aux adolescents de signaler les images et vidéos pornographiques qu'ils trouvent sur Internet. Le site prend en charge le traitement des vidéos filmées clandestinement et des vidéos générées par intelligence artificielle.

Hoang Ton (selon AP)

Source: https://www.congluan.vn/deepfake-khieu-dam-van-nan-trong-cuoc-dua-ai-post244021.html