Google Lens показує оманливу інформацію про зображення

Розслідування, проведене організацією з перевірки фактів Full Fact, виявило, що огляд результатів пошуку Google Lens за допомогою штучного інтелекту надавав неправдиву або оманливу інформацію про низку зображень, які широко поширювалися в соціальних мережах.

Google Lens – це пошукова система зображень, розроблена Google – Фото: KLMOBILE

Згідно з Full Fact, згадані вище справи стосуються відео , які нібито розповідають про війну в Україні та Газі, конфлікт між Індією та Пакистаном, катастрофу літака Air India у червні 2025 року та іммігрантів, які прибувають до Великої Британії на невеликих човнах.

Full Fact використовував Google Lens для пошуку скріншотів з фальшивих відео, факти яких вони перевіряли.

Принаймні у 10 випадках штучний інтелект не розпізнав фальшивий контент, навіть повторюючи дезінформацію, подібну до тієї, що була в соціальних мережах.

У чотирьох прикладах огляд ШІ дослівно повторював хибні твердження, які Full Fact спростував. Крім того, результати зведення ШІ могли змінюватися щоразу, коли він шукав, навіть для одного й того самого зображення, що призводило до суперечливої ​​інформації.

Google визнає, що деякі з цих помилок можуть виникати, стверджуючи, що причина полягає в результатах пошуку зображень, а не в системі огляду штучного інтелекту.

За даними Google, результати пошуку зображень можуть містити веб-джерела або публікації в соціальних мережах, які містять як відповідні зображення, так і неправдиву інформацію, що впливає на підсумовування ШІ.

Google заявляє, що завжди прагне відображати релевантну та високоякісну інформацію, постійно вдосконалюється, а у разі виявлення проблем вони будуть вирішуватися відповідно до політики.

Хоча Google стверджує, що огляди ШІ рідко «фабрикують» інформацію (також відомі як «галюцинації» ШІ), він все ще поширює дезінформацію щодо важливих та делікатних питань.

Наприклад, вірусне відео неправдиво стверджувало, що шукачі притулку прибувають на пляж Довер, Англія, хоча насправді події відбувалися на пляжі в Гоа, Індія. Google Lens під час пошуку скріншоту відео коротко описав його як «люди збираються на пляжі Довер, Англія».

Або деякі фейкові відео про війну між Росією та Україною, навіть зображення з відеогри Arma 3, описуються оглядом ШІ як справжні без попередження, що це фейковий контент.

Був випадок, коли та сама відеогра, але дві різні фотографії, були зведені штучним інтелектом як сцена перехоплення артилерійських снарядів системою оборони C-RAM та сцена запуску ракети SpaceX, що не означає, що ці зображення є підробками.

Синтез штучного інтелекту Google Lens надав неправдиву інформацію, стверджуючи, що це зображення біженців, які прибувають до міста Дувр, Англія - ​​Фото: ПОВНИЙ ФАКТ

Google Lens – це інструмент пошуку зображень, який дозволяє користувачам шукати фотографії або кадри з відео для порівняння з аналогічними зображеннями в Інтернеті.

Іноді у верхній частині сторінки з’являється короткий опис інформації про ШІ, який узагальнює відповідну інформацію з Інтернету. Незважаючи на попередження про те, що «ШІ може помилятися», помітне розміщення дезінформації може легко ввести громадськість в оману.

Full Fact рекомендує розглядати інструмент огляду штучного інтелекту Google Lens як відправну точку, а не як заміну ручної перевірки фактів, а також шукати додаткові надійні джерела для порівняння.

Це не перший випадок, коли результати пошуку Google показують невірну інформацію. Full Fact стверджує, що раніше отримував фінансування від Google та Google.org, але зберігає повну редакційну незалежність.

Повернутися до теми

ANH ЧТ

Джерело: https://tuoitre.vn/google-lens-hien-thi-thong-tin-sai-lech-ve-hinh-anh-20250814110509932.htm