Des experts mettent en garde contre la création d'images stéréotypées et exagérées par l'IA

Lorsque vous recherchez des images sur le thème de la pauvreté, vous pouvez trouver de nombreuses photos d'enfants africains en haillons, d'enfants asiatiques nageant dans des rivières remplies d'ordures... créées par l'IA.

Produits de l'IA : racisme et préjugés

Les images générées par l'IA représentant la pauvreté, les enfants et les victimes de violences sexuelles inondent les archives photographiques en ligne, et les organisations non gouvernementales (ONG) les utilisent de plus en plus, selon des experts en santé mondiale. Ces experts mettent en garde contre le risque d'une « nouvelle ère d'exploitation de la pauvreté ».

« Ces images reflètent la vision par défaut de la pauvreté – des enfants tenant des bols vides, un sol craquelé… très stéréotypé », a déclaré Arsenii Alenichev, chercheur à l’Institut de médecine tropicale d’Anvers qui étudie la production d’images de santé mondiale .

M. Alenichev a collecté plus de 100 images générées par l'IA illustrant l'extrême pauvreté, qui ont été utilisées par des particuliers ou des ONG dans des campagnes sur les réseaux sociaux contre la faim et les violences sexuelles.

Les images qu'il a partagées avec le Guardian montrent des scènes stéréotypées et exagérées : des enfants blottis dans des flaques de boue ; une jeune fille africaine en robe de mariée, les larmes ruisselant sur son visage. Dans un récent article paru dans la revue Lancet Global Health, il a affirmé que ces images s'apparentaient à une « version 2.0 de l'exploitation de la misère ».

Capture d'écran d'une image de la « pauvreté » générée par IA sur un site web de photos. (Photo : Freepik)

M. Alenichev et de nombreux autres experts affirment que l'utilisation d'images générées par l'IA se développe en raison des préoccupations liées aux droits d'auteur et aux coûts. Les coupes budgétaires du gouvernement américain dans les ONG ont aggravé le problème.

« De toute évidence, de nombreuses organisations commencent à envisager l’utilisation d’images générées par IA plutôt que de photos réelles, car c’est peu coûteux. De plus, on n’a pas à se soucier des droits d’auteur et de bien d’autres choses », a-t- il déclaré.

La responsabilité incombe-t-elle à l'utilisateur ou à la plateforme ?

Des images de la pauvreté générées par l'IA apparaissent sur des dizaines de sites de photos, dont Adobe Stock Photos et Freepik. Nombre d'entre elles sont légendées : « Enfant surréaliste dans un camp de réfugiés », « Enfants asiatiques nageant dans une rivière jonchée de détritus », « Bénévole blanc prodiguant des conseils médicaux à des enfants noirs dans un village africain », etc. Adobe vend les droits des deux dernières images de cette liste pour environ 60 £.

« Ces photos sont ouvertement racistes et ne devraient pas être publiées car elles véhiculent les pires stéréotypes sur l'Afrique, l'Inde ou tout autre sujet imaginable », a déclaré Alenichev.

Joaquín Abela, PDG de Freepik, a déclaré que la responsabilité de l'utilisation de telles images extrêmes incombe aux utilisateurs, et non aux plateformes comme la sienne. Selon lui, les photos générées par intelligence artificielle sont créées par une communauté mondiale d'utilisateurs, qui perçoivent des droits d'auteur lorsque les clients de Freepik achètent leurs photos.

Freepik s'efforce de limiter les biais présents dans ses photothèques en « y intégrant davantage de diversité ». Parallèlement, l'entreprise tente également de garantir l'équilibre entre les sexes dans les photos d'avocats et de cadres.

Mais, explique-t-il, sa plateforme a ses limites. « C’est comme essayer d’assécher l’océan. On a essayé, mais la réalité, c’est que si des clients du monde entier veulent que leurs images aient un certain aspect, personne n’y peut rien. »

Image générée par intelligence artificielle pour la campagne 2023 de l'organisation caritative Plan International contre le mariage des enfants, qui vise à protéger « la vie privée et la dignité des filles ». (Photo : Plan International)

De nombreuses organisations prestigieuses ont utilisé des images générées par l'IA, y compris les Nations Unies.

L'année dernière, les Nations Unies ont publié sur YouTube une vidéo présentant des reconstitutions de violences sexuelles, notamment le témoignage d'une Burundaise racontant avoir été violée et laissée pour morte par trois hommes en 1993. Le contenu était entièrement généré par une intelligence artificielle. La vidéo a été retirée après que le Guardian a contacté l'ONU pour obtenir une interview.

Un porte-parole de l'ONU a expliqué par la suite pourquoi la vidéo avait été retirée : « Nous pensons que la vidéo a été générée de manière inappropriée par une intelligence artificielle et qu'elle peut présenter des risques pour l'intégrité de l'information, en mélangeant des images réelles avec du contenu artificiel qui semble authentique. »

Il est avéré depuis longtemps que les produits générés par l'IA sont des copies, parfois même des exagérations. M. Alenichev a déclaré que la prolifération de ces images biaisées pourrait aggraver le problème, car elles peuvent se diffuser sur Internet et servir à entraîner la prochaine génération d'IA.

Un porte-parole de Plan International a déclaré que l'ONG « déconseille actuellement l'utilisation de l'IA pour représenter les enfants ».

Minh Hoan

Source : https://vtcnews.vn/chuyen-gia-bao-dong-tinh-trang-ai-tao-anh-rap-khuon-phong-dai-ar972160.html