Google Lens wyświetla mylące informacje o obrazach

Śledztwo przeprowadzone przez organizację Full Fact zajmującą się weryfikacją faktów wykazało, że funkcja sztucznej inteligencji w wynikach wyszukiwania Google Lens podawała fałszywe lub wprowadzające w błąd informacje na temat szeregu zdjęć szeroko krążących w mediach społecznościowych.

Google Lens to wyszukiwarka obrazów opracowana przez Google – Zdjęcie: KLMOBILE

Według Full Fact, powyższe przypadki dotyczą filmów rzekomo przedstawiających wojnę na Ukrainie i w Strefie Gazy, konflikt indyjsko-pakistański, katastrofę samolotu Air India w czerwcu 2025 r. oraz imigrantów przybywających do Wielkiej Brytanii małymi łodziami.

Full Fact wykorzystał Google Lens do wyszukania zrzutów ekranu z fałszywych filmów, które zostały sprawdzone pod kątem faktów.

W co najmniej 10 przypadkach podsumowania oparte na sztucznej inteligencji nie rozpoznały fałszywych treści, a wręcz powtarzały te same błędne informacje, co w mediach społecznościowych.

W czterech przykładach przegląd AI powtarza dosłownie fałszywe twierdzenia, które Full Fact obalił. Ponadto wyniki podsumowania AI mogą się zmieniać przy każdym wyszukiwaniu, nawet tego samego obrazu, co prowadzi do niespójnych informacji.

Google przyznaje, że niektóre z tych błędów mogą się pojawiać, twierdząc, że pochodzą one z wyników wyszukiwania obrazów, a nie z systemu przeglądu AI.

Według Google wyniki wyszukiwania obrazami mogą obejmować źródła internetowe lub posty w mediach społecznościowych, które zawierają zarówno pasujące obrazy, jak i fałszywe informacje, co ma wpływ na podsumowania AI.

Google twierdzi, że zawsze stara się wyświetlać istotne i wysokiej jakości informacje, stale udoskonala swoją ofertę, a w przypadku wykrycia problemów będzie ona rozwiązywana zgodnie z polityką.

Chociaż Google twierdzi, że sztuczna inteligencja rzadko „fabrykuje” informacje (co jest znane jako „halucynacja” AI), nadal rozpowszechnia dezinformację na temat ważnych i delikatnych kwestii.

Na przykład, w popularnym filmie fałszywie twierdzono, że osoby ubiegające się o azyl przybywają na plażę Dover w Wielkiej Brytanii, podczas gdy w rzeczywistości scena rozgrywała się na plaży w Goa w Indiach. Google Lens, wyszukując zrzuty ekranu z filmu, podsumował go jako „ludzie gromadzący się na plaży Dover w Wielkiej Brytanii”.

Albo niektóre fałszywe filmy o wojnie w Rosji na Ukrainie, a nawet obrazy z gry wideo Arma 3, są przez sztuczną inteligencję określane jako prawdziwe, bez ostrzeżenia, że ​​są to fałszywe treści.

Jest przypadek, w którym ta sama gra wideo, ale dwa różne ujęcia, zostały podsumowane przez sztuczną inteligencję jako scena przechwytywania pocisków artyleryjskich przez system obronny C-RAM oraz scena startu rakiety SpaceX, co nie oznacza, że ​​są to fałszywe obrazy.

Synteza sztucznej inteligencji Google Lens podała fałszywe informacje, twierdząc, że jest to obraz uchodźców przybywających do miasta Dover w Anglii - Zdjęcie: PEŁNY FAKT

Google Lens to wyszukiwarka obrazów umożliwiająca użytkownikom wyszukiwanie zdjęć lub klatek z filmów i porównywanie ich z podobnymi obrazami w Internecie.

Czasami na górze strony pojawia się podsumowanie sztucznej inteligencji, gromadzące istotne informacje z internetu. Pomimo ostrzeżenia, że ​​„sztuczna inteligencja może popełniać błędy”, eksponowanie dezinformacji w widocznym miejscu może łatwo wprowadzić opinię publiczną w błąd.

Full Fact zaleca, aby narzędzie do przeglądu faktów oparte na sztucznej inteligencji Google Lens traktować jako punkt wyjścia, a nie jako substytut ręcznego sprawdzania faktów. Zaleca się również skorzystanie z dodatkowych, wiarygodnych źródeł w celu przeprowadzenia porównań.

To nie pierwszy raz, kiedy wyniki wyszukiwania Google pokazują nieprawidłowe informacje. Full Fact twierdzi, że otrzymał finansowanie od Google i Google.org, ale zachowuje pełną niezależność redakcyjną.

Powrót do tematu

ANH CZW

Źródło: https://tuoitre.vn/google-lens-hien-thi-thong-tin-sai-lech-ve-hinh-anh-20250814110509932.htm