¿Cómo funcionan las imágenes falsas de IA?
La IA está en todas partes hoy en día, incluso en la guerra. Las aplicaciones de inteligencia artificial han mejorado tanto este año que casi cualquiera puede usar generadores de IA para crear imágenes que parecen realistas, al menos a simple vista.
Una fotografía falsa generada por inteligencia artificial de la guerra en Gaza.
Los usuarios simplemente dan a herramientas como Midjourney o Dall-E algunas indicaciones, incluyendo especificaciones e información, para lograrlo. Las herramientas de IA convierten las indicaciones de texto, o incluso de voz, en imágenes.
Este proceso de generación de imágenes se basa en el aprendizaje automático. Por ejemplo, si un creador solicita mostrar a un hombre de 70 años en bicicleta, buscará en su base de datos para encontrar términos que coincidan con las imágenes.
Con base en la información disponible, el algoritmo de IA generará imágenes del ciclista mayor. Gracias a la creciente información y actualizaciones técnicas, estas herramientas han mejorado significativamente y están en constante aprendizaje.
Todo esto se está aplicando a imágenes relacionadas con el conflicto de Oriente Medio. En un conflicto donde las emociones están tan a flor de piel, la desinformación, incluida la difundida mediante imágenes de IA, tiene un enorme impacto, afirma el experto en IA Hany Farid.
Farid, profesor de análisis digital en la Universidad de California en Berkeley, dijo que las batallas feroces son el caldo de cultivo perfecto para crear y difundir contenido falso, además de avivar las emociones.
Imágenes de IA de la guerra entre Israel y Hamás
Las imágenes y vídeos creados con la ayuda de inteligencia artificial han alimentado la desinformación relacionada con la guerra en Ucrania, y eso sigue sucediendo en la guerra entre Israel y Hamás.
Según los expertos, las imágenes de IA que circulan en redes sociales sobre la guerra suelen clasificarse en dos categorías. Una se centra en el sufrimiento humano y evoca empatía. La otra es IA falsa que exagera los acontecimientos, incitando así el conflicto y la escalada de violencia.
Fotografía falsa generada por inteligencia artificial de padre e hijo entre los escombros en Gaza.
Por ejemplo, la primera categoría incluye la foto de arriba de un padre y sus cinco hijos frente a un montón de escombros. Se compartió varias veces en X (antes Twitter) e Instagram, y fue vista cientos de miles de veces.
Esta imagen ha sido marcada por la comunidad, al menos en X, como falsa. Se reconoce por varios errores e inconsistencias comunes en las imágenes de IA (ver imagen superior).
También se pueden ver anomalías similares en la imagen falsa de IA que se volvió viral en X a continuación, que pretende mostrar a una familia palestina comiendo junta en las ruinas.
Fotografía falsa de un partido palestino generada por inteligencia artificial.
Mientras tanto, otra imagen que muestra a tropas ondeando banderas israelíes mientras marchan a través de un asentamiento lleno de casas bombardeadas cae en la segunda categoría, diseñada para incitar al odio y la violencia.
¿De dónde proceden estas imágenes de IA?
La mayoría de las imágenes de conflictos generadas por IA se publican en plataformas de redes sociales, pero también están disponibles en otras plataformas y organizaciones, e incluso en algunos sitios de noticias.
La empresa de software Adobe ha causado sensación al añadir imágenes generadas por IA a su catálogo de fotografías de archivo para finales de 2022. Estas imágenes estarán etiquetadas como corresponde en la base de datos.
Adobe también ofrece ahora a la venta imágenes de inteligencia artificial de la guerra en Oriente Medio, como explosiones, personas protestando o columnas de humo detrás de la mezquita Al-Aqsa.
Adobe ofrece imágenes generadas por inteligencia artificial de los combates en Gaza.
Los críticos han considerado esto preocupante, ya que algunos sitios web han seguido usando las imágenes sin etiquetarlas como generadas por IA. Por ejemplo, la imagen que aparece en la página "Noticias" no indica que se haya generado con IA.
Incluso el Servicio de Investigación del Parlamento Europeo, el brazo científico del Parlamento Europeo, ilustró un documento en línea sobre el conflicto de Medio Oriente con una imagen de IA de la base de datos de Adobe, sin etiquetarla como generada por IA.
El Observatorio Europeo de Medios Digitales insta a los periodistas y profesionales de los medios a ser extremadamente cautelosos al utilizar imágenes de IA y desaconseja su uso, especialmente cuando cubren acontecimientos reales como la guerra en Gaza.
¿Qué tan peligrosas son las imágenes de IA?
El contenido y las imágenes virales de IA seguramente incomodarán a los usuarios con todo lo que encuentren en línea. "Si nos adentramos en un mundo donde las imágenes, el audio y el video pueden manipularse , todo se vuelve sospechoso", explica Farid, investigador de UC Berkeley. "Así que se pierde la confianza en todo, incluso en la verdad".
Eso es exactamente lo que sucedió en el siguiente caso: una imagen de lo que se dijo que era el cadáver carbonizado de un bebé israelí fue compartida en las redes sociales por el primer ministro israelí, Benjamin Netanyahu, y varios otros políticos.
Un influencer antiisraelí, Jackson Hinkle, afirmó posteriormente que la imagen se creó mediante inteligencia artificial. La afirmación de Hinkle fue vista más de 20 millones de veces en redes sociales y generó un acalorado debate en la plataforma.
Finalmente, muchas organizaciones y herramientas de verificación declararon que la imagen era real y que la afirmación de Hinkle era falsa. Sin embargo, es evidente que ninguna herramienta puede ayudar a los usuarios a recuperar fácilmente la confianza perdida.
Hoang Hai (según DW)
[anuncio_2]
Fuente
Kommentar (0)