A Google Lens félrevezető információkat jelenít meg a képekről

A Full Fact tényellenőrző szervezet vizsgálata megállapította, hogy a Google Lens keresési találatai között található mesterséges intelligencia hamis vagy félrevezető információkat szolgáltat számos, a közösségi médiában széles körben terjedő képről.

A Google Lens egy Google által fejlesztett képkereső motor - Fotó: KLMOBILE

A Full Fact szerint a fenti esetek állítólag az ukrajnai és gázai háborúról, az indiai-pakisztáni konfliktusról, az Air India 2025 júniusi repülőgép-szerencsétlenségéről és az Egyesült Királyságba kishajóval érkező bevándorlókról szóló videókat érintenek.

A Full Fact a Google Lens segítségével keresett képernyőképeket hamis videókból, amelyeket tényellenőriztek.

Legalább 10 esetben a mesterséges intelligencia által kidolgozott összefoglalók nem ismerték fel a hamis tartalmat, sőt, ugyanazokat a félretájékoztatásokat ismételték meg, mint a közösségi médiában.

Négy példában a mesterséges intelligencia áttekintése szó szerint megismétli a Full Fact által megcáfolt hamis állításokat. Ezenkívül a mesterséges intelligencia összefoglaló eredményei minden kereséskor változhatnak, még ugyanazon kép esetében is, ami inkonzisztens információkhoz vezethet.

A Google elismeri, hogy ezek közül a hibák közül néhány előfordulhat, mondván, hogy ezek a képkeresési találatokból származnak, nem pedig a mesterséges intelligencia áttekintő rendszeréből.

A Google szerint a képkeresési találatok között szerepelhetnek olyan webes források vagy közösségi média bejegyzések, amelyek egyező képeket és hamis információkat is tartalmaznak, és ez befolyásolja a mesterséges intelligencia által generált összefoglalókat.

A Google azt állítja, hogy mindig releváns és kiváló minőségű információk megjelenítésére törekszik, folyamatosan fejleszt, és ha problémákat észlelnek, azokat a szabályzatnak megfelelően kezelik.

Bár a Google azt állítja, hogy a mesterséges intelligencia ritkán „fabrikál” információkat (más néven MI „hallucinációkat”), mégis terjeszt félretájékoztatást fontos és érzékeny kérdésekről.

Például egy vírusként terjedő videó hamisan állította, hogy menedékkérők érkeznek az Egyesült Királyságbeli Dover Beachre, holott a jelenet valójában egy indiai Goa-i strandon történt. A Google Lens, amikor képernyőképeket keresett a videóból, így foglalta össze: „emberek gyülekeznek az Egyesült Királyságbeli Dover Beachen”.

Vagy néhány hamis videó az orosz-ukrajnai háborúról, sőt még az Arma 3 videojáték képei is, amelyeket a mesterséges intelligencia valósnak minősít anélkül, hogy figyelmeztetne, hogy ez hamis tartalom.

Van egy eset, amikor ugyanazt a videojátékot, de két különböző felvételt a mesterséges intelligencia úgy összegzi, mint egy jelenetet, amelyben a C-RAM védelmi rendszer tüzérségi lövedékeket fog el, illetve egy SpaceX rakéta kilövését, ami nem jelenti azt, hogy ezek hamis képek.

A Google Lens mesterséges intelligencia szintézise hamis információkat adott, amikor azt állította, hogy a kép a Doverbe, Angliába érkező menekülteket ábrázolja - Fotó: FULL FACT

A Google Lens egy képkereső, amely lehetővé teszi a felhasználók számára, hogy fényképeket vagy képkockákat keressenek videókból, és összehasonlítsák azokat hasonló online képekkel.

Előfordul, hogy egy mesterséges intelligencia által készített összefoglaló jelenik meg az oldal tetején, amely összesíti a releváns információkat az internetről. Annak ellenére, hogy a figyelmeztetés szerint „a mesterséges intelligencia hibázhat”, a félretájékoztatás jól látható helyen történő megjelenítése könnyen félrevezetheti a nyilvánosságot.

A Full Fact azt javasolja, hogy a Google Lens mesterséges intelligencián alapuló áttekintő eszközét kiindulópontnak tekintsék, ne pedig a manuális tényellenőrzés helyettesítőjeként, és hogy további megbízható forrásokat keressenek az összehasonlításhoz.

Ez nem az első alkalom, hogy a Google keresési eredményei helytelen információkat mutatnak. A Full Fact azt állítja, hogy finanszírozást kapott a Google-től és a Google.org-tól, de teljes szerkesztői függetlenséget tart fenn.

Vissza a témához

ANH THU

Forrás: https://tuoitre.vn/google-lens-hien-thi-thong-tin-sai-lech-ve-hinh-anh-20250814110509932.htm