Especialistas alertam para o risco de a IA criar imagens estereotipadas e exageradas.

Ao pesquisar imagens sobre o tema da pobreza, você pode encontrar muitas fotos de crianças africanas maltrapilhas, crianças asiáticas nadando em rios cheios de lixo... criadas por inteligência artificial.

Produtos da IA: Racismo e Preconceito

Imagens geradas por inteligência artificial (IA) de temas como pobreza, crianças e vítimas de violência sexual estão inundando arquivos fotográficos online, sendo cada vez mais utilizadas por organizações não governamentais (ONGs), segundo especialistas em saúde global. Os especialistas alertam que isso pode sinalizar uma “nova era de cultura de exploração da pobreza”.

“Essas imagens refletem a visão padrão da pobreza – crianças segurando tigelas vazias, chão rachado… muito estereotipado”, disse Arsenii Alenichev, pesquisador do Instituto de Medicina Tropical de Antuérpia, que estuda a produção de imagens de saúde global .

O Sr. Alenichev coletou mais de 100 imagens de extrema pobreza geradas por inteligência artificial, que foram utilizadas por indivíduos ou ONGs em campanhas nas redes sociais contra a fome e a violência sexual.

As imagens que ele compartilhou com o Guardian mostram cenas exageradas e estereotipadas: crianças amontoadas em poças de lama; uma menina africana de vestido de noiva com lágrimas escorrendo pelo rosto. Em um comentário recente publicado na revista Lancet Global Health, ele argumentou que as imagens equivaliam a uma “pornografia da pobreza versão 2.0”.

Captura de tela mostrando uma imagem de "pobreza" gerada por IA em um site de fotos. (Foto: Freepik)

O Sr. Alenichev e muitos outros especialistas afirmam que o uso de imagens geradas por IA está aumentando devido a preocupações com direitos autorais e custos. Os cortes orçamentários do governo dos EUA para ONGs agravaram o problema.

“É evidente que muitas organizações estão começando a considerar o uso de imagens geradas por IA em vez de fotos reais, porque é mais barato. Além disso, não é preciso se preocupar com direitos autorais e muitas outras questões”, disse ele.

A responsabilidade é do usuário ou da plataforma?

Imagens de pobreza geradas por inteligência artificial aparecem em dezenas de sites de fotos, incluindo Adobe Stock Photos e Freepik. Muitas têm legendas como: “criança surreal em campo de refugiados”; “crianças asiáticas nadando em um rio cheio de lixo”; “voluntário branco dando conselhos médicos a crianças negras em uma aldeia africana”; e outras. A Adobe vende os direitos das duas últimas imagens dessa lista por cerca de £60.

“Essas fotos são flagrantemente racistas e não deveriam ser publicadas, pois representam os piores estereótipos sobre a África, a Índia ou qualquer outro tema imaginável”, disse Alenichev.

Joaquín Abela, CEO da Freepik, afirmou que a responsabilidade pelo uso de imagens tão extremas recai sobre os usuários, e não sobre plataformas como a sua. Em sua visão, as fotos de banco de imagens geradas por IA são criadas por uma comunidade global de usuários, que podem receber royalties quando os clientes da Freepik optam por comprar suas fotos.

A Freepik tentou reduzir os vieses encontrados em seus bancos de imagens "injetando diversidade". Ao mesmo tempo, também busca garantir o equilíbrio de gênero nas fotos de advogados e executivos.

Mas, segundo ele, sua plataforma tem suas limitações. "É como tentar secar o oceano. Tentamos, mas a realidade é que, se clientes do mundo todo querem que suas imagens tenham uma determinada aparência, não há absolutamente nada que alguém possa fazer a respeito."

Imagem gerada por inteligência artificial da campanha de 2023 da organização beneficente Plan International contra o casamento infantil, que visa proteger "a privacidade e a dignidade das meninas". (Foto: Plan International)

Muitas organizações de prestígio têm usado imagens geradas por IA, inclusive as Nações Unidas.

No ano passado, as Nações Unidas publicaram um vídeo no YouTube com "reencenações" de violência sexual, incluindo o depoimento de uma mulher burundesa descrevendo como foi estuprada e dada como morta por três homens em 1993. O conteúdo foi inteiramente gerado por inteligência artificial. O vídeo foi removido depois que o jornal The Guardian entrou em contato com a ONU para uma entrevista.

Um porta-voz da ONU explicou posteriormente o motivo da remoção do vídeo: "Acreditamos que o vídeo foi gerado indevidamente por IA e pode representar riscos à integridade da informação, misturando imagens reais com conteúdo artificial que aparenta ser real."

Há muito tempo se sabe que os produtos gerados por IA são cópias, às vezes exagerando a verdade. O Sr. Alenichev afirmou que a proliferação dessas imagens tendenciosas pode agravar o problema, pois elas podem ser disseminadas pela vasta internet e usadas para treinar a próxima geração de IA.

Um porta-voz da Plan International afirmou que a ONG atualmente "recomenda que não se utilize inteligência artificial para representar crianças".

Minh Hoan

Fonte: https://vtcnews.vn/chuyen-gia-bao-dong-tinh-trang-ai-tao-anh-rap-khuon-phong-dai-ar972160.html