Google Lens muestra información engañosa sobre las imágenes

Una investigación realizada por la organización de verificación de datos Full Fact ha descubierto que la descripción general de IA en los resultados de búsqueda de Google Lens ha estado proporcionando información falsa o engañosa sobre una serie de imágenes que circulan ampliamente en las redes sociales.

Google Lens es un motor de búsqueda de imágenes desarrollado por Google - Foto: KLMOBILE

Según Full Fact, los casos mencionados involucran videos supuestamente sobre la guerra en Ucrania y Gaza, el conflicto entre India y Pakistán, el accidente aéreo de Air India en junio de 2025 e inmigrantes que llegan al Reino Unido en pequeñas embarcaciones.

Full Fact utilizó Google Lens para buscar capturas de pantalla de vídeos falsos que habían verificado.

En al menos 10 casos, los resúmenes de IA no reconocieron el contenido falso, incluso repitiendo la misma información errónea que en las redes sociales.

En cuatro ejemplos, el resumen de IA repite textualmente afirmaciones falsas que Full Fact ha desmentido. Además, los resultados del resumen de IA pueden cambiar cada vez que busca, incluso la misma imagen, lo que genera información inconsistente.

Google admite que algunos de estos errores pueden ocurrir y dice que provienen de los resultados de búsqueda de imágenes y no del sistema de visión general de IA.

Según Google, los resultados de la búsqueda de imágenes pueden incluir fuentes web o publicaciones en redes sociales que contienen imágenes coincidentes e información falsa, y eso afecta los resúmenes de IA.

Google afirma que su objetivo siempre es mostrar información relevante y de alta calidad, mejora continuamente y, cuando se detectan problemas, se manejan de acuerdo con la política.

Aunque Google afirma que la visión general de la IA rara vez “fabrica” información (lo que también se conoce como “alucinación” de la IA), aún así difunde información errónea sobre temas importantes y delicados.

Por ejemplo, un video viral afirmaba falsamente que solicitantes de asilo llegaban a la playa de Dover, Reino Unido, cuando en realidad la escena transcurría en una playa de Goa, India. Google Lens, al buscar capturas de pantalla del video, lo resumió como "gente reunida en la playa de Dover, Reino Unido".

O algunos videos falsos sobre la guerra en Rusia - Ucrania, incluso imágenes del videojuego Arma 3, son descritos como reales por la visión general de la IA sin advertir que se trata de contenido falso.

Hay un caso en el que un mismo videojuego pero dos tomas diferentes son resumidas por la IA como una escena del sistema de defensa C-RAM interceptando proyectiles de artillería y una escena del lanzamiento de un cohete de SpaceX, lo que no quiere decir que sean imágenes falsas.

La síntesis de IA de Google Lens dio información falsa al afirmar que se trataba de una imagen de refugiados llegando a la ciudad de Dover, Inglaterra - Foto: FULL FACT

Google Lens es un motor de búsqueda de imágenes que permite a los usuarios buscar fotografías o fotogramas de vídeos para compararlos con imágenes similares en línea.

A veces, un resumen de IA aparece en la parte superior de la página, recopilando información relevante de la web. A pesar de la advertencia de que «la IA puede cometer errores», mostrar información errónea de forma destacada puede inducir fácilmente a error al público.

Full Fact recomienda que la herramienta de descripción general de inteligencia artificial de Google Lens se considere como un punto de partida, no como un sustituto de la verificación manual de datos, y que se busquen fuentes confiables adicionales para realizar comparaciones.

Esta no es la primera vez que los resultados de búsqueda de Google muestran información incorrecta. Full Fact afirma haber recibido financiación de Google y Google.org, pero mantiene total independencia editorial.

Volver al tema

ANH JUE

Fuente: https://tuoitre.vn/google-lens-hien-thi-thong-tin-sai-lech-ve-hinh-anh-20250814110509932.htm