Los expertos advierten que la IA crea imágenes estereotipadas y exageradas

Productos de IA: racismo y sesgo

Imágenes generadas por IA sobre temas como la pobreza, la infancia y las víctimas de violencia sexual están inundando los archivos fotográficos en línea, y las organizaciones no gubernamentales (ONG) las utilizan cada vez más, según expertos en salud mundial. Los expertos advierten que esto podría indicar una "nueva era de cultura de explotación de la pobreza".

“Estas imágenes reflejan la visión predeterminada de la pobreza: niños con cuencos vacíos, suelo agrietado... muy estereotipado”, dijo Arsenii Alenichev, investigador del Instituto de Medicina Tropical de Amberes que estudia la producción de imágenes de salud global .

El Sr. Alenichev recopiló más de 100 imágenes de pobreza extrema generadas por inteligencia artificial, que fueron utilizadas por individuos u ONG en campañas en las redes sociales contra el hambre y la violencia sexual.

Las imágenes que compartió con The Guardian muestran escenas exageradas y estereotipadas: niños acurrucados en charcos de lodo; una niña africana con vestido de novia y lágrimas corriendo por su rostro. En un comentario reciente publicado en la revista Lancet Global Health, argumentó que las imágenes equivalían a "pornografía de la pobreza versión 2.0".

Captura de pantalla que muestra una imagen de la

Captura de pantalla que muestra una imagen de la "pobreza" generada por IA en un sitio web de fotos. (Foto: Freepik)

El Sr. Alenichev y muchos otros expertos afirman que el uso de imágenes de IA está aumentando debido a la preocupación por los derechos de autor y los costos. Los recortes presupuestarios del gobierno estadounidense a las ONG han agravado el problema.

“Claramente, muchas organizaciones están empezando a considerar el uso de imágenes de IA en lugar de fotos reales porque es económico. Además, no hay que preocuparse por los derechos de autor ni por muchas otras cosas”, afirmó.

¿La responsabilidad es del usuario o de la plataforma?

Imágenes de pobreza generadas por IA aparecen en docenas de sitios web de fotos, como Adobe Stock Photos y Freepik. Muchas tienen subtítulos: "Niño surrealista en un campo de refugiados"; "Niños asiáticos nadando en un río lleno de basura"; "Voluntario blanco brindando atención médica a niños negros en una aldea africana"; y más. Adobe vende los derechos de las dos últimas imágenes de la lista por unas 60 libras.

“Estas fotos son descaradamente racistas y no se debería permitir su publicación porque son los peores estereotipos sobre África, India o cualquier cosa que puedas imaginar”, dijo Alenichev.

Joaquín Abela, CEO de Freepik, afirmó que la responsabilidad del uso de imágenes tan extremas recae en los usuarios, no en plataformas como la suya. En su opinión, las fotos de stock con IA son creadas por una comunidad global de usuarios, quienes pueden recibir regalías cuando los clientes de Freepik compran sus fotos.

Freepik ha intentado reducir los sesgos presentes en sus fototecas inyectándoles diversidad. Al mismo tiempo, también intenta garantizar el equilibrio de género en las fotos de abogados y ejecutivos.

Pero, dice, su plataforma tiene un alcance limitado. "Es como intentar secar el océano. Lo hemos intentado, pero la realidad es que, si clientes de todo el mundo quieren que sus imágenes se vean de cierta manera, no hay absolutamente nada que se pueda hacer al respecto".

Imagen generada con IA de la campaña contra el matrimonio infantil de 2023 de la organización benéfica Plan International, cuyo objetivo es proteger la privacidad y la dignidad de las niñas. (Foto: Plan International)

Muchas organizaciones prestigiosas han utilizado imágenes generadas por IA, incluso las Naciones Unidas.

El año pasado, las Naciones Unidas publicaron un video en YouTube con recreaciones de violencia sexual, incluyendo el testimonio de una mujer burundesa que describe cómo tres hombres la violaron y la abandonaron por muerta en 1993. El contenido fue generado íntegramente por IA. El video fue retirado después de que The Guardian contactara a la ONU para una entrevista.

Un portavoz de la ONU explicó posteriormente el motivo de la retirada del vídeo: «Creemos que el vídeo fue generado incorrectamente por IA y podría suponer riesgos para la integridad de la información, al mezclar imágenes reales con contenido artificial que parece real».

Desde hace tiempo se ha descubierto que los productos generados por IA son imitaciones, a veces exagerando la realidad. El Sr. Alenichev afirmó que la proliferación de estas imágenes sesgadas podría agravar el problema, ya que pueden difundirse por internet y utilizarse para entrenar a la próxima generación de IA.

Un portavoz de Plan International dijo que la ONG actualmente “recomienda no utilizar IA para representar a niños”.

Minh Hoan

Fuente: https://vtcnews.vn/chuyen-gia-bao-dong-tinh-trang-ai-tao-anh-rap-khuon-phong-dai-ar972160.html