Google Lens toont misleidende informatie over afbeeldingen

Uit onderzoek van de factcheckorganisatie Full Fact is gebleken dat het AI-overzicht in de zoekresultaten van Google Lens onjuiste of misleidende informatie geeft over een aantal afbeeldingen die veel circuleren op sociale media.

Google Lens is een zoekmachine voor afbeeldingen, ontwikkeld door Google - Foto: KLMOBILE

Volgens Full Fact gaat het in de bovenstaande gevallen om video's die naar verluidt gaan over de oorlog in Oekraïne en Gaza, het conflict tussen India en Pakistan, de Air India-vliegtuigcrash in juni 2025 en immigranten die per kleine boot naar het Verenigd Koninkrijk kwamen.

Full Fact gebruikte Google Lens om te zoeken naar screenshots van nepvideo's die ze hadden gecontroleerd op feiten.

In minstens 10 gevallen herkenden de AI-samenvattingen de nepcontent niet en werd zelfs dezelfde misinformatie herhaald als op sociale media.

In vier voorbeelden herhaalt het AI-overzicht letterlijk onjuiste beweringen die Full Fact heeft ontkracht. Bovendien kunnen de resultaten van het AI-overzicht bij elke zoekopdracht veranderen, zelfs naar dezelfde afbeelding, wat leidt tot inconsistente informatie.

Google geeft toe dat sommige van deze fouten kunnen optreden en zegt dat ze afkomstig zijn van de zoekresultaten van afbeeldingen en niet van het AI-overzichtsysteem.

Volgens Google kunnen zoekresultaten voor afbeeldingen webbronnen of berichten op sociale media bevatten die zowel overeenkomende afbeeldingen als onjuiste informatie bevatten, wat van invloed is op de AI-samenvattingen.

Google zegt dat het er altijd naar streeft om relevante en hoogwaardige informatie weer te geven, dat het de informatie voortdurend verbetert en dat wanneer er problemen worden gedetecteerd, deze volgens het beleid worden afgehandeld.

Hoewel Google beweert dat AI-overzichten zelden informatie 'verzinnen' (ook wel AI-'hallucinatie' genoemd), verspreidt het nog steeds desinformatie over belangrijke en gevoelige kwesties.

Zo beweerde een virale video ten onrechte dat asielzoekers aankwamen op Dover Beach in het Verenigd Koninkrijk, terwijl de scène zich in werkelijkheid afspeelde op een strand in Goa, India. Google Lens vatte het samen als "mensen die zich verzamelen op Dover Beach in het Verenigd Koninkrijk".

Of sommige nepvideo's over de oorlog in Rusland-Oekraïne, zelfs afbeeldingen uit de videogame Arma 3, worden door AI-overzicht als echt beschreven, zonder waarschuwing dat het om nep-inhoud gaat.

Er is een geval bekend waarbij dezelfde videogame, maar dan met twee verschillende shots, door AI werd samengevat als een scène waarin het C-RAM-verdedigingssysteem artilleriegranaten onderschept en een scène waarin een SpaceX-raket wordt gelanceerd. Dit wil echter niet zeggen dat dit nepbeelden zijn.

De AI-synthese van Google Lens gaf valse informatie toen het beweerde dat het een afbeelding was van vluchtelingen die aankwamen in de stad Dover, Engeland - Foto: FULL FACT

Google Lens is een zoekmachine voor afbeeldingen waarmee gebruikers foto's of frames uit video's kunnen doorzoeken en vergelijken met soortgelijke afbeeldingen online.

Soms verschijnt er bovenaan de pagina een AI-samenvatting, met relevante informatie van het web. Ondanks de waarschuwing dat "AI fouten kan maken", kan prominent weergegeven misinformatie het publiek gemakkelijk misleiden.

Full Fact adviseert om de AI-overzichtstool van Google Lens te beschouwen als een startpunt en niet als een vervanging voor handmatige feitencontrole. Ook raden we aan om aanvullende betrouwbare bronnen te zoeken ter vergelijking.

Dit is niet de eerste keer dat de zoekresultaten van Google onjuiste informatie tonen. Full Fact zegt financiering te hebben ontvangen van Google en Google.org, maar behoudt volledige redactionele onafhankelijkheid.

Terug naar het onderwerp

ANH DO

Bron: https://tuoitre.vn/google-lens-hien-thi-thong-tin-sai-lech-ve-hinh-anh-20250814110509932.htm