Google Lens zobrazuje zavádějící informace o obrázcích

Vyšetřování organizace Full Fact, která ověřuje fakta, zjistilo, že přehled umělé inteligence ve výsledcích vyhledávání Google Lens poskytoval nepravdivé nebo zavádějící informace o řadě obrázků, které se široce šíří na sociálních sítích.

Google Lens je vyhledávač obrázků vyvinutý společností Google - Foto: KLMOBILE

Podle serveru Full Fact se výše uvedené případy týkají videí údajně o válce na Ukrajině a v Gaze, indicko-pákistánském konfliktu, havárii letadla společnosti Air India v červnu 2025 a imigrantech připlouvajících do Spojeného království malými loděmi.

Full Fact použil Google Lens k vyhledání snímků obrazovky z falešných videí, u kterých ověřil fakta.

V nejméně 10 případech souhrny vytvářené umělou inteligencí nedokázaly rozpoznat falešný obsah a dokonce opakovaly stejné dezinformace jako na sociálních sítích.

Ve čtyřech příkladech přehled umělé inteligence doslovně opakuje nepravdivá tvrzení, která Full Fact vyvrátil. Souhrnné výsledky umělé inteligence se navíc mohou měnit při každém vyhledávání, a to i u stejného obrázku, což vede k nekonzistentním informacím.

Google připouští, že některé z těchto chyb se mohou vyskytnout, a tvrdí, že pocházejí z výsledků vyhledávání obrázků, nikoli ze systému přehledů umělé inteligence.

Podle Googlu mohou výsledky vyhledávání obrázků zahrnovat webové zdroje nebo příspěvky na sociálních sítích, které obsahují jak shodné obrázky, tak i nepravdivé informace, což ovlivňuje souhrny umělé inteligence.

Google uvádí, že jeho cílem je vždy zobrazovat relevantní a vysoce kvalitní informace, neustále se zlepšuje a v případě zjištění problémů bude řešen v souladu se zásadami.

Ačkoli Google tvrdí, že umělá inteligence jen zřídka „vymýšlí“ informace (také známé jako „halucinace“ umělé inteligence), stále šíří dezinformace o důležitých a citlivých tématech.

Například virální video falešně tvrdilo, že žadatelé o azyl přijíždějí na pláž Dover Beach ve Velké Británii, ačkoli ve skutečnosti se scéna odehrávala na pláži v indické Goa. Google Lens při vyhledávání snímků obrazovky z videa shrnul situaci jako „lidé se shromažďují na pláži Dover Beach ve Velké Británii“.

Nebo některá falešná videa o válce mezi Ruskem a Ukrajinou, dokonce i obrázky z videohry Arma 3, jsou přehledem umělé inteligence označeny za skutečné bez varování, že se jedná o falešný obsah.

Existuje případ, kdy umělá inteligence shrne stejnou videohru, ale dva různé záběry, jako scénu obranného systému C-RAM zachycujícího dělostřelecké granáty a scénu odpalování rakety SpaceX, což neznamená, že se jedná o falešné snímky.

Syntéza umělé inteligence v Google Lens poskytla nepravdivé informace, když tvrdila, že se jedná o snímek uprchlíků přijíždějících do města Dover v Anglii - Foto: PLNÉ FAKTY

Google Lens je vyhledávač obrázků, který umožňuje uživatelům vyhledávat fotografie nebo snímky z videí a porovnávat je s podobnými obrázky online.

Někdy se v horní části stránky zobrazí shrnutí o umělé inteligenci, které shromažďuje relevantní informace z webu. Navzdory varování, že „umělá inteligence může dělat chyby“, může prominentní zobrazení dezinformací snadno uvést veřejnost v omyl.

Full Fact doporučuje, aby byl nástroj Google Lens pro přehled umělé inteligence vnímán jako výchozí bod, nikoli jako náhrada za manuální ověřování faktů, a aby byly pro srovnání vyhledány další spolehlivé zdroje.

Není to poprvé, co výsledky vyhledávání Google zobrazovaly nesprávné informace. Full Fact uvádí, že obdržel finanční prostředky od Googlu a Google.org, ale zachovává si naprostou redakční nezávislost.

Zpět k tématu

ANH ČT

Zdroj: https://tuoitre.vn/google-lens-hien-thi-thong-tin-sai-lech-ve-hinh-anh-20250814110509932.htm