Google Lens viser misvisende informasjon om bilder

En undersøkelse utført av faktasjekkerorganisasjonen Full Fact har avdekket at AI-oversikten i søkeresultatene til Google Lens har gitt falsk eller misvisende informasjon om en rekke bilder som sirkulerer mye på sosiale medier.

Google Lens er en bildesøkemotor utviklet av Google - Foto: KLMOBILE

Ifølge Full Fact dreier sakene ovenfor seg om videoer som angivelig handler om krigen i Ukraina og Gaza, konflikten mellom India og Pakistan, flystyrten med Air India i juni 2025 og innvandrere som kommer til Storbritannia med småbåter.

Full Fact brukte Google Lens til å søke etter skjermbilder fra falske videoer de hadde faktasjekket.

I minst 10 tilfeller klarte ikke AI-sammendragene å gjenkjenne det falske innholdet, og gjentok til og med den samme feilinformasjonen som på sosiale medier.

I fire eksempler gjentar AI-oversikten ordrett falske påstander som Full Fact har avkreftet. I tillegg kan AI-sammendragsresultatene endres hver gang den søker, selv etter det samme bildet, noe som fører til inkonsekvent informasjon.

Google innrømmer at noen av disse feilene kan oppstå, og sier at de kommer fra bildesøkeresultater, ikke fra AI-oversiktssystemet.

Ifølge Google kan bildesøkresultater inkludere nettkilder eller innlegg på sosiale medier som inneholder både samsvarende bilder og falsk informasjon, og det påvirker AI-sammendrag.

Google sier at de alltid har som mål å vise relevant og høykvalitetsinformasjon, kontinuerlig forbedrer seg, og når problemer oppdages, vil de bli håndtert i henhold til retningslinjene.

Selv om Google hevder at AI-oversikt sjelden «fabrikkerer» informasjon (også kjent som AI-«hallusinasjoner»), sprer de fortsatt feilinformasjon om viktige og sensitive saker.

For eksempel hevdet en viral video feilaktig at asylsøkere ankom Dover Beach i Storbritannia, mens det faktisk skjedde på en strand i Goa i India. Google Lens oppsummerte videoen som «folk som samlet seg på Dover Beach i Storbritannia», da de søkte etter skjermbilder.

Eller noen falske videoer om krigen i Russland - Ukraina, til og med bilder fra videospillet Arma 3, beskrives som ekte av AI-oversikten uten forvarsel om at dette er falskt innhold.

Det finnes et tilfelle der det samme videospillet, men med to forskjellige bilder, oppsummeres av AI som en scene der C-RAM-forsvarssystemet avskjærer artillerigranater og en scene der en SpaceX-rakettoppskyting pågår, noe som ikke betyr at dette er falske bilder.

Google Lens' AI-syntese ga falsk informasjon da den hevdet at det var et bilde av flyktninger som ankom byen Dover i England – Foto: FULL FACT

Google Lens er en bildesøkemotor som lar brukere søke etter bilder eller rammer fra videoer for å sammenligne med lignende bilder på nettet.

Noen ganger vil et sammendrag av AI vises øverst på siden, som samler relevant informasjon fra nettet. Til tross for advarselen om at «AI kan gjøre feil», kan det lett villede offentligheten å ha feilinformasjon tydelig vist.

Full Fact anbefaler at Google Lens' AI-oversiktsverktøy ses på som et utgangspunkt, ikke en erstatning for manuell faktasjekking, og at det søkes etter ytterligere pålitelige kilder for sammenligning.

Dette er ikke første gang Googles søkeresultater har vist feil informasjon. Full Fact sier at de har mottatt finansiering fra Google og Google.org, men opprettholder fullstendig redaksjonell uavhengighet.

Tilbake til emnet

ANH-TOR

Kilde: https://tuoitre.vn/google-lens-hien-thi-thong-tin-sai-lech-ve-hinh-anh-20250814110509932.htm