Especialistas alertam que IA cria imagens estereotipadas e exageradas

Ao pesquisar imagens sobre o tema pobreza, você pode encontrar muitas fotos de crianças africanas esfarrapadas, crianças asiáticas nadando em rios cheios de lixo... criadas por IA.

Produtos da IA: Racismo e Preconceito

Imagens geradas por IA de temas como pobreza, crianças e vítimas de violência sexual estão inundando arquivos de fotos online, com organizações não governamentais (ONGs) utilizando-as cada vez mais, de acordo com especialistas em saúde global. Especialistas alertam que isso pode sinalizar uma "nova era de cultura de exploração da pobreza".

“Essas imagens refletem a visão padrão da pobreza — crianças segurando tigelas vazias, chão rachado... muito estereotipado”, disse Arsenii Alenichev, pesquisador do Instituto de Medicina Tropical de Antuérpia que estuda a produção de imagens de saúde global .

O Sr. Alenichev coletou mais de 100 imagens de pobreza extrema geradas por IA, que foram usadas por indivíduos ou ONGs em campanhas de mídia social contra a fome e a violência sexual.

As imagens que ele compartilhou com o Guardian mostram cenas exageradas e estereotipadas: crianças amontoadas em poças de lama; uma garota africana em um vestido de noiva com lágrimas escorrendo pelo rosto. Em um comentário recente publicado na revista Lancet Global Health, ele argumentou que as imagens equivaliam à "pornografia da pobreza versão 2.0".

Captura de tela mostrando uma imagem de “pobreza” gerada por IA em um site de fotos. (Foto: Freepik)

O Sr. Alenichev e muitos outros especialistas afirmam que o uso de imagens de IA está aumentando devido a preocupações com direitos autorais e custos. Os cortes orçamentários do governo dos EUA para ONGs agravaram o problema.

“Claramente, muitas organizações estão começando a considerar o uso de imagens de IA em vez de fotos reais porque é mais barato. Você também não precisa se preocupar com direitos autorais e muitas outras coisas”, disse ele.

A responsabilidade é do usuário ou da plataforma?

Imagens de pobreza geradas por IA aparecem em dezenas de sites de fotografia, incluindo Adobe Stock Photos e Freepik. Muitas têm legendas: "criança surreal em campo de refugiados"; "crianças asiáticas nadando em um rio cheio de lixo"; "voluntário branco prestando aconselhamento médico a crianças negras em uma aldeia africana"; e muito mais. A Adobe vende os direitos das duas últimas imagens dessa lista por cerca de £ 60.

“Essas fotos são descaradamente racistas e não deveriam ser publicadas porque são os piores estereótipos sobre a África, a Índia ou qualquer coisa que você possa imaginar”, disse Alenichev.

Joaquín Abela, CEO da Freepik, disse que a responsabilidade pelo uso de imagens tão extremas é dos usuários, não de plataformas como a sua. Na sua opinião, as fotos de banco de imagens com IA são criadas por uma comunidade global de usuários, que podem receber royalties quando os clientes da Freepik decidem comprar suas fotos.

O Freepik tentou coibir os preconceitos encontrados em suas bibliotecas de fotos "injetando diversidade". Ao mesmo tempo, eles também tentam garantir o equilíbrio de gênero em fotos de advogados e executivos.

Mas, ele diz, sua plataforma tem limites. "É como tentar secar o oceano. Tentamos, mas a realidade é que, se clientes do mundo todo querem que suas imagens tenham uma determinada aparência, não há absolutamente nada que alguém possa fazer a respeito."

Imagem gerada por IA da campanha anticasamento infantil de 2023 da instituição de caridade Plan International, que visa proteger "a privacidade e a dignidade das meninas". (Foto: Plan International)

Muitas organizações de prestígio usaram imagens geradas por IA, até mesmo as Nações Unidas.

No ano passado, as Nações Unidas publicaram um vídeo no YouTube com "reencenações" de violência sexual, incluindo o depoimento de uma mulher burundinesa descrevendo ter sido estuprada e deixada para morrer por três homens em 1993. O conteúdo foi inteiramente gerado por IA. O vídeo foi removido depois que o jornal The Guardian contatou a ONU para uma entrevista.

Um porta-voz da ONU explicou posteriormente por que o vídeo foi removido. "Acreditamos que o vídeo foi gerado incorretamente por IA e pode representar riscos à integridade das informações, misturando imagens reais com conteúdo artificial que parece real."

Há muito tempo se descobriu que produtos gerados por IA são imitações, às vezes exagerando a verdade. O Sr. Alenichev afirmou que a proliferação dessas imagens tendenciosas pode agravar o problema, pois as imagens podem ser espalhadas pela vasta internet e usadas para treinar a próxima geração de IA.

Um porta-voz da Plan International disse que a ONG atualmente “recomenda não usar IA para representar crianças”.

Minh Hoan

Fonte: https://vtcnews.vn/chuyen-gia-bao-dong-tinh-trang-ai-tao-anh-rap-khuon-phong-dai-ar972160.html