Google Lens показує оманливу інформацію про зображення

Розслідування, проведене організацією з перевірки фактів Full Fact, виявило, що огляд результатів пошуку Google Lens за допомогою штучного інтелекту надає неправдиву або оманливу інформацію про низку зображень, що широко поширюються в соціальних мережах.

Google Lens – це пошукова система зображень, розроблена Google – Фото: KLMOBILE

Згідно з Full Fact, вищезгадані випадки стосуються відео нібито про війну в Україні та Газі, конфлікт між Індією та Пакистаном, катастрофу літака Air India у червні 2025 року та іммігрантів, які прибувають до Великої Британії невеликими човнами.

Full Fact використовував Google Lens для пошуку скріншотів з фальшивих відео, факти яких вони перевіряли.

Принаймні у 10 випадках штучний інтелект не розпізнав фейковий контент, навіть повторюючи ту саму дезінформацію, що й у соціальних мережах.

У чотирьох прикладах огляд ШІ дослівно повторює хибні твердження, які Full Fact спростував. Крім того, результати зведення ШІ можуть змінюватися щоразу, коли він шукає, навіть для одного й того самого зображення, що призводить до суперечливої ​​інформації.

Google визнає, що деякі з цих помилок можуть виникати, стверджуючи, що вони походять від результатів пошуку зображень, а не від системи огляду штучного інтелекту.

За даними Google, результати пошуку зображень можуть містити веб-джерела або публікації в соціальних мережах, які містять як відповідні зображення, так і неправдиву інформацію, що впливає на зведення штучного інтелекту.

Google заявляє, що завжди прагне відображати релевантну та високоякісну інформацію, постійно вдосконалюється, а у разі виявлення проблем вони будуть вирішуватися відповідно до політики.

Хоча Google стверджує, що огляди ШІ рідко «фабрикують» інформацію (також відомі як «галюцинації» ШІ), він все ще поширює дезінформацію щодо важливих та делікатних питань.

Наприклад, вірусне відео неправдиво стверджувало, що шукачі притулку прибувають на пляж Довер, Велика Британія, хоча насправді подія відбувалася на пляжі в Гоа, Індія. Google Lens під час пошуку скріншотів з відео коротко описав це як «люди збираються на пляжі Довер, Велика Британія».

Або деякі фейкові відео про війну між Росією та Україною, навіть зображення з відеогри Arma 3, описуються оглядом ШІ як справжні без попередження, що це фейковий контент.

Є випадок, коли та сама відеогра, але два різних кадри, підсумовуються штучним інтелектом як сцена, де система оборони C-RAM перехоплює артилерійські снаряди, та сцена запуску ракети SpaceX, що не означає, що ці зображення є підробками.

Синтез штучного інтелекту Google Lens надав неправдиву інформацію, стверджуючи, що це зображення біженців, які прибувають до міста Дувр, Англія - ​​Фото: ПОВНИЙ ФАКТ

Google Lens — це пошукова система зображень, яка дозволяє користувачам шукати фотографії або кадри з відео для порівняння з аналогічними зображеннями в Інтернеті.

Іноді у верхній частині сторінки з’являється короткий опис інформації про ШІ, який узагальнює відповідну інформацію з Інтернету. Незважаючи на попередження про те, що «ШІ може помилятися», помітне розміщення дезінформації може легко ввести громадськість в оману.

Full Fact рекомендує розглядати інструмент огляду штучного інтелекту Google Lens як відправну точку, а не як заміну ручної перевірки фактів, а також шукати додаткові надійні джерела для порівняння.

Це не перший випадок, коли результати пошуку Google показують невірну інформацію. Full Fact стверджує, що отримав фінансування від Google та Google.org, але зберігає повну редакційну незалежність.

Повернутися до теми

ANH ЧТ

Джерело: https://tuoitre.vn/google-lens-hien-thi-thong-tin-sai-lech-ve-hinh-anh-20250814110509932.htm