Google Lens affiche des informations trompeuses sur les images

Google Lens - Ảnh 1. — Google Lens est un moteur de recherche d'images développé par Google - Photo : KLMOBILE

Selon Full Fact, les cas mentionnés ci-dessus concernent des vidéos qui traiteraient de la guerre en Ukraine et à Gaza, du conflit indo-pakistanais, du crash d'un avion d'Air India en juin 2025 et de l'arrivée d'immigrants au Royaume-Uni par petit bateau.

Full Fact a utilisé Google Lens pour rechercher des captures d'écran de fausses vidéos qu'ils avaient vérifiées.

Dans au moins 10 cas, les résumés de l'IA n'ont pas réussi à reconnaître le contenu erroné, allant même jusqu'à répéter la même désinformation que sur les réseaux sociaux.

Dans quatre exemples, l'aperçu généré par l'IA reprend mot pour mot des affirmations mensongères que Full Fact a déjà démenties. De plus, les résultats de ce résumé peuvent varier d'une recherche à l'autre, même pour une même image, ce qui conduit à des informations incohérentes.

Google admet que certaines de ces erreurs peuvent se produire, précisant qu'elles proviennent des résultats de recherche d'images et non du système d'analyse par IA.

Selon Google, les résultats de recherche d'images peuvent inclure des sources Web ou des publications sur les réseaux sociaux contenant à la fois des images correspondantes et des informations erronées, ce qui affecte les résumés générés par l'IA.

Google affirme qu'il vise toujours à afficher des informations pertinentes et de haute qualité, qu'il améliore continuellement ses services et que, lorsqu'un problème est détecté, il est traité conformément à sa politique.

Bien que Google affirme que son analyse basée sur l'IA « fabrique » rarement des informations (ce qu'on appelle aussi « hallucination » de l'IA), elle diffuse néanmoins de la désinformation sur des sujets importants et sensibles.

Par exemple, une vidéo virale affirmait faussement que des demandeurs d'asile arrivaient sur la plage de Douvres, au Royaume-Uni, alors qu'en réalité, la scène se déroulait sur une plage de Goa, en Inde. Google Lens, lors d'une recherche de captures d'écran de la vidéo, la résumait par « rassemblement de personnes sur la plage de Douvres, au Royaume-Uni ».

Ou encore, certaines fausses vidéos sur la guerre entre la Russie et l'Ukraine, voire des images du jeu vidéo Arma 3, sont décrites comme réelles par l'analyse de l'IA sans avertissement indiquant qu'il s'agit de contenu falsifié.

Il existe un cas où le même jeu vidéo, mais deux plans différents, sont résumés par l'IA comme une scène du système de défense C-RAM interceptant des obus d'artillerie et une scène de lancement d'une fusée SpaceX, ce qui ne signifie pas pour autant qu'il s'agit de fausses images.

Google Lens - Ảnh 2.

La synthèse d'image par IA de Google Lens a fourni de fausses informations en prétendant qu'il s'agissait d'une image de réfugiés arrivant à Douvres, en Angleterre. – Photo : FULL FACT

Google Lens est un moteur de recherche d'images qui permet aux utilisateurs de rechercher des photos ou des images extraites de vidéos afin de les comparer avec des images similaires en ligne.

Il arrive qu'un résumé généré par l'IA apparaisse en haut de la page, regroupant des informations pertinentes issues du web. Malgré l'avertissement selon lequel « l'IA peut se tromper », la diffusion de fausses informations en évidence peut facilement induire le public en erreur.

Full Fact recommande de considérer l'outil de synthèse d'informations par IA de Google Lens comme un point de départ, et non comme un substitut à la vérification manuelle des faits, et de rechercher des sources fiables supplémentaires à des fins de comparaison.

Ce n'est pas la première fois que les résultats de recherche Google affichent des informations erronées. Full Fact affirme avoir reçu des financements de Google et de Google.org, mais maintient une totale indépendance éditoriale.

Retour au sujet

ANH JEU

Source : https://tuoitre.vn/google-lens-hien-thi-thong-tin-sai-lech-ve-hinh-anh-20250814110509932.htm