¿Cómo detectar imágenes generadas por IA?

Las fotos falsas de famosos están muy extendidas

Nunca ha sido tan fácil crear imágenes que parezcan increíblemente realistas pero que en realidad sean falsas. Porque cualquiera con una conexión a Internet y acceso a herramientas impulsadas por IA puede crear fotos fotorrealistas en segundos y luego difundirlas en las redes sociales a una velocidad vertiginosa.

Una fotografía falsa generada por inteligencia artificial pretende mostrar a Elon Musk "saliendo" con la directora ejecutiva de GM, Mary Barra.

En los últimos tiempos, muchas de estas imágenes se han vuelto virales: como la del expresidente Donald Trump y el presidente Vladimir Putin siendo arrestados falsamente o la del multimillonario Elon Musk “pasando el rato” con la directora ejecutiva de General Motors (GM), Mary Barra.

El problema es que todas las imágenes de IA representan eventos que nunca sucedieron. Y aunque algunas de estas imágenes puedan resultar divertidas y parecer irreales, aún así pueden suponer peligros reales en términos de desinformación, incluso el riesgo de difundir noticias falsas, según los expertos.

Las imágenes de arrestos de políticos como el expresidente estadounidense Donald Trump pueden ser verificadas por los usuarios con bastante rapidez si consultan fuentes de medios confiables. Sin embargo, el experto en inteligencia artificial Henry Ajder dijo en una conversación con DW que otras imágenes son más difíciles de reconocer, como aquellas en las que la persona en la foto no es muy famosa.

El peligro de las fotos falsas de eventos

Según Ajder, no son sólo las imágenes de personas generadas por IA las que pueden difundir información errónea. Dijo que ha habido ejemplos de usuarios que crearon eventos que nunca ocurrieron, como un severo terremoto que supuestamente sacudió a Estados Unidos y Canadá en 2001.

Pero este terremoto nunca ocurrió, y las imágenes compartidas en Reddit fueron todas generadas por IA. Y según Ajder, éste es el problema. “Si la IA genera una escena de paisaje, puede que te resulte más difícil detectarla”, explica.

Sin embargo, las herramientas de IA todavía cometen errores, incluso a pesar de su rápido desarrollo. Actualmente, a partir de abril de 2023, programas como Midjourney, Dall-E y DeepAI presentan fallas, especialmente con imágenes que muestran humanos.

A continuación se ofrecen algunos consejos para verificar imágenes generadas por IA, pero los expertos se apresuraron a advertir que solo reflejan la situación actual, ya que las herramientas de inteligencia artificial evolucionan cada día, incluso cada hora:

Amplíe y encuentre la fuente de la imagen.

Muchas imágenes generadas por IA parecen realistas a primera vista. Por eso, la primera sugerencia de los expertos es observar atentamente la fotografía. Para ello, busque la imagen con la mayor resolución posible y luego amplíe los detalles.

Al ampliar la imagen se revelarán inconsistencias y errores que pueden pasar desapercibidos a primera vista.

Si no está seguro de si una imagen es real o generada por IA, intente encontrar su fuente. Puedes ver información sobre dónde se publicó la imagen por primera vez leyendo los comentarios publicados por otros usuarios debajo de la imagen.

O puedes hacer una búsqueda inversa de imágenes. Para ello, sube la imagen a herramientas como Google Image Reverse Search, TinEye o Yandex y podrás encontrar la fuente original de la imagen.

Los resultados de estas búsquedas también pueden mostrar enlaces a verificaciones de hechos realizadas por medios de comunicación confiables que brindan contexto adicional.

Preste atención a las proporciones corporales y a los errores de visualización.

No es raro que las imágenes generadas por IA tengan diferencias de escala. La mano puede ser demasiado pequeña o los dedos demasiado largos. O la cabeza y las piernas no coinciden con el resto del cuerpo.

Las manos son actualmente la principal causa de errores en programas de visión artificial como Midjourney o DALL-E. La gente a menudo tiene dedos adicionales o faltantes, como en estas fotos falsas del Papa Francisco.

Foto falsa del Papa Francisco generada por IA.

Otros errores comunes en las imágenes generadas por IA incluyen personas con demasiados dientes o marcos de anteojos extrañamente deformados u orejas con formas poco realistas. Las superficies reflectantes, como las viseras de los cascos, también plantean problemas para los programas de IA.

Sin embargo, el experto en inteligencia artificial Henry Ajder advierte que las versiones más nuevas de programas como Midjourney están mejorando en la generación de manos, lo que significa que los usuarios no podrán confiar en que detecten este tipo de errores por mucho tiempo.

¿La imagen se ve falsa y suave?

En particular, la aplicación Midjourney produce muchas imágenes hermosas e increíblemente perfectas, por lo que los espectadores necesitan hacer preguntas. “Los rostros son demasiado puros, los tejidos demasiado armoniosos”, afirma Andreas Dengel, del Centro Alemán de Investigación en Inteligencia Artificial.

La piel de las personas en muchas imágenes de IA suele ser suave y libre de imperfecciones, incluso su cabello y sus dientes son perfectos. Esto no es posible en la vida real.

Muchas fotografías son artísticas, brillantes y relucientes, algo que incluso a los fotógrafos profesionales les resulta difícil conseguir cuando fotografían en el estudio.

Las herramientas de IA a menudo parecen diseñar imágenes ideales que se supone que son perfectas y complacen a la mayor cantidad de personas posible.

Comprueba el contexto y la conclusión

El fondo de una imagen a menudo puede revelar si es falsa o no. Los objetos pueden deformarse, por ejemplo las farolas. En algunos casos, los programas de IA clonan personas y objetos y los utilizan una y otra vez. Y no es raro que el fondo de una foto de IA esté borroso.

Pero incluso esta difuminación puede contener errores. Como una ocasión en la que se pretendía mostrar a un Will Smith enojado en los Oscar. El fondo no sólo está desenfocado, sino que también está borroso artificialmente.

Ahora es posible detectar muchas imágenes generadas por IA con solo un poco de pensamiento. Las herramientas de detección de IA como Hugging Face también pueden ayudarte a detectar falsificaciones. Pero dicho esto, la tecnología está mejorando y es probable que los errores en las imágenes de IA sean menores, lo que hace que sea más difícil detectarlas.

Hoang Hai (según DW)

Fuente: https://www.congluan.vn/lam-the-nao-de-phat-hien-hinh-anh-do-ai-tao-ra-post242953.html