 |
La question des déchets de l'IA devient de plus en plus controversée. Photo : SCMP . |
La récente diffusion de vidéos d'interviews de rue mettant en scène des femmes en bikini a suscité des commentaires obscènes. Ce contenu est entièrement généré par une intelligence artificielle, conçu pour tromper les algorithmes grâce à des chiffres et attirer l'attention par des images sexistes.
Des vidéos d'apparence réaliste sont produites en masse grâce à des outils d'IA bon marché, par simple saisie d'une description. Derrière ce phénomène se cache une petite industrie qui utilise l'IA pour créer un grand nombre de vidéos et générer des interactions afin d'être rémunérée par la plateforme.
Des chercheurs de l'Agence France-Presse ont recensé des centaines de vidéos de ce type sur Instagram. Nombre de ces situations, notamment des images de vestiaires et de journalistes légèrement vêtues réalisant des interviews dans les rues d'Inde et du Royaume-Uni, ont suscité des inquiétudes quant à la sécurité des femmes.
Plusieurs de ces vidéos, en hindi, montrent de jeunes hommes faisant des blagues sexistes avec désinvolture et allant même jusqu'à toucher des femmes, sous le regard ou les rires d'autres hommes en arrière-plan.
De nombreuses vidéos ont cumulé des dizaines de millions de vues, certaines ayant profité de leur popularité pour monétiser des applications de chat pour adultes. Parallèlement, certains spectateurs, perplexes, ont exprimé des doutes quant à la réalité du contenu visionné. Selon une analyse de la société américaine de cybersécurité GetReal Security, certaines de ces vidéos auraient été créées à l'aide de Veo 3, le générateur d'IA réaliste de Google.
« Cela fait partie des préjudices sexistes causés par les technologies utilisant l'IA », a déclaré Nirali Bhatia, cyberpsychologue en Inde, qui a souligné que cette tendance « alimente l'idéologie sexiste ».
 |
Vidéos de femmes créées par l'IA. Photo : Internet. |
Cette tendance reflète également un paysage internet de plus en plus pollué par des vidéos et des images générées par l'IA qui rivalisent pour capter l'attention. Les femmes sont elles aussi devenues un outil de communication. De nombreuses vidéos virales montrent des femmes exploitant des hommes pour de l'argent ou dramatisent à outrance l'agression d'une dresseuse de poissons par une orque.
L’année dernière, Alexios Mantzarlis, directeur de l’Initiative pour la sécurité, la confiance et la sûreté à Cornell Tech, a découvert 900 comptes Instagram appartenant probablement à des « mannequins » générés par l’IA. La majorité des titulaires de ces comptes étaient des femmes et portaient souvent des vêtements révélateurs.
Ensemble, ces faux comptes ont attiré 13 millions d'abonnés et publié plus de 200 000 images, et les personnes qui les gèrent gagnent souvent de l'argent en dirigeant leur public vers des plateformes de partage de contenu commercial.
Compte tenu de la prolifération de faux contenus générés par l'IA en ligne, Mantzarlis estime que les chiffres seront probablement bien plus élevés. « Nous allons voir apparaître beaucoup plus de contenus absurdes exploitant des standards de beauté non seulement irréalistes, mais totalement faux », prédit-il.
Sur YouTube et TikTok, de nombreux créateurs proposent désormais des formations payantes expliquant comment monétiser les contenus basés sur l'IA. Plusieurs plateformes, comme Meta, ont réduit la modération des contenus. À l'inverse, YouTube a adopté une approche plus radicale en désactivant la monétisation des vidéos réalisées avec l'IA.
« L’IA n’a pas inventé la misogynie, elle n’a fait que refléter et amplifier un phénomène déjà existant », a déclaré Divyendra Jadoun, consultant en IA. Il estime que la prolifération des algorithmes et de l’IA se poursuivra tant que le public interagira avec ce type de contenu.
Source : https://znews.vn/su-that-sau-nhung-video-phong-van-phu-nu-mac-bikini-phan-cam-post1581980.html
Comment (0)