Les experts mettent en garde contre la création d'images stéréotypées et exagérées par l'IA

Produits de l'IA : racisme et préjugés

Les images générées par l'IA, représentant des sujets tels que la pauvreté, les enfants et les victimes de violences sexuelles, inondent les archives photographiques en ligne, et les organisations non gouvernementales (ONG) les utilisent de plus en plus, selon des experts en santé mondiale. Ces derniers mettent en garde contre le risque d'une « nouvelle ère de culture d'exploitation de la pauvreté ».

« Ces images reflètent la vision par défaut de la pauvreté : des enfants tenant des bols vides, un sol craquelé… très stéréotypé », a déclaré Arsenii Alenichev, chercheur à l’Institut de médecine tropicale d’Anvers qui étudie la production d’images de santé mondiale .

M. Alenichev a collecté plus de 100 images générées par l’IA sur l’extrême pauvreté, qui ont été utilisées par des particuliers ou des ONG dans des campagnes sur les réseaux sociaux contre la faim et la violence sexuelle.

Les images qu'il a partagées avec le Guardian montrent des scènes exagérées et stéréotypées : des enfants blottis dans des flaques de boue ; une jeune Africaine en robe de mariée, le visage ruisselant de larmes. Dans un récent commentaire publié dans la revue Lancet Global Health, il a affirmé que ces images relevaient de la « pornographie de la pauvreté version 2.0 ».

Capture d'écran montrant une image de « pauvreté » générée par l'IA sur un site web de photos. (Photo : Freepik)

Capture d'écran montrant une image de « pauvreté » générée par l'IA sur un site web de photos. (Photo : Freepik)

M. Alenichev et de nombreux autres experts affirment que l'utilisation d'images issues de l'IA augmente en raison des préoccupations liées aux droits d'auteur et aux coûts. Les coupes budgétaires du gouvernement américain dans les ONG ont aggravé le problème.

« De toute évidence, de nombreuses organisations commencent à envisager d'utiliser des images générées par l'IA plutôt que de vraies photos, car c'est économique. De plus, cela permet d'éviter les problèmes de droits d'auteur et bien d'autres aspects », a-t -il déclaré.

La responsabilité incombe-t-elle à l’utilisateur ou à la plateforme ?

Des images de pauvreté générées par l'IA apparaissent sur des dizaines de sites photo, dont Adobe Stock Photos et Freepik. Nombre d'entre elles sont légendées ainsi : « Enfant surréaliste dans un camp de réfugiés » ; « Enfants asiatiques nageant dans une rivière remplie d'ordures » ; « Bénévole blanc prodiguant des conseils médicaux à des enfants noirs dans un village africain » ; et bien d'autres. Adobe vend les droits des deux dernières images de cette liste pour environ 60 £.

« Ces photos sont manifestement racistes et ne devraient pas être publiées car elles représentent les pires stéréotypes sur l’Afrique, l’Inde ou tout ce à quoi vous pouvez penser », a déclaré Alenichev.

Joaquín Abela, PDG de Freepik, a déclaré que la responsabilité de l'utilisation d'images aussi extrêmes incombe aux utilisateurs, et non à des plateformes comme la sienne. Selon lui, les photos d'archives IA sont créées par une communauté mondiale d'utilisateurs, qui peuvent percevoir des royalties lorsque les clients de Freepik achètent leurs photos.

Freepik a tenté de réduire les biais présents dans ses photothèques en y ajoutant de la diversité. Parallèlement, l'entreprise veille également à garantir l'équilibre entre les sexes sur les photos d'avocats et de cadres.

Mais, dit-il, sa plateforme a ses limites. « C'est comme essayer d'assécher l'océan. Nous avons essayé, mais la réalité est que si des clients du monde entier souhaitent que leurs images aient un certain rendu, personne ne peut rien y faire. »

Image générée par l'IA issue de la campagne 2023 de l'association caritative Plan International contre le mariage des enfants, qui vise à protéger la vie privée et la dignité des filles. (Photo : Plan International)

De nombreuses organisations prestigieuses ont utilisé des images générées par l’IA, même les Nations Unies.

L'année dernière, les Nations Unies ont publié sur YouTube une vidéo présentant des « reconstitutions » de violences sexuelles, notamment le témoignage d'une Burundaise décrivant son viol et son abandon par trois hommes en 1993. Le contenu était entièrement généré par l'IA. La vidéo a été retirée après que le Guardian a contacté l'ONU pour une interview.

Un porte-parole de l'ONU a ensuite expliqué pourquoi la vidéo avait été retirée. « Nous pensons que la vidéo a été générée de manière inappropriée par l'IA et qu'elle pourrait présenter des risques pour l'intégrité des informations, en mélangeant des images réelles avec du contenu artificiel semblant réel. »

Les produits générés par l'IA sont depuis longtemps considérés comme des imitations, exagérant parfois la réalité. M. Alenichev a déclaré que la prolifération de ces images biaisées pourrait aggraver le problème, car elles peuvent être diffusées sur le vaste Internet et utilisées pour former la prochaine génération d'IA.

Un porte-parole de Plan International a déclaré que l’ONG « déconseille actuellement l’utilisation de l’IA pour représenter les enfants ».

Minh Hoan

Source : https://vtcnews.vn/chuyen-gia-bao-dong-tinh-trang-ai-tao-anh-rap-khuon-phong-dai-ar972160.html