Google Lens, görüntüler hakkında yanıltıcı bilgiler gösteriyor

Gerçek kontrol kuruluşu Full Fact'in yaptığı araştırma, Google Lens arama sonuçlarındaki yapay zeka genel bakışının, sosyal medyada yaygın olarak dolaşan bir dizi görsel hakkında yanlış veya yanıltıcı bilgi sağladığını tespit etti.

Google Lens, Google tarafından geliştirilen bir görsel arama motorudur - Fotoğraf: KLMOBILE

Full Fact'e göre, yukarıdaki vakalar Ukrayna ve Gazze'deki savaş, Hindistan-Pakistan çatışması, Haziran 2025'teki Air India uçağının düşmesi ve küçük teknelerle İngiltere'ye gelen göçmenlerle ilgili olduğu iddia edilen videoları içeriyor.

Full Fact, gerçekliğini doğruladıkları sahte videoların ekran görüntülerini aramak için Google Lens'i kullandı.

En az 10 vakada yapay zeka özetleri sahte içeriği tanıyamadı, hatta sosyal medyadakiyle aynı yanlış bilgileri tekrarladı.

Yapay zeka genel bakışı, dört örnekte Full Fact'in çürüttüğü tam anlamıyla yanlış iddiaları tekrarlıyor. Ayrıca, yapay zeka özet sonuçları, aynı görsel için bile her aramada değişebiliyor ve bu da tutarsız bilgilere yol açıyor.

Google, bu hataların bir kısmının yapay zeka genel bakış sisteminden değil, görsel arama sonuçlarından kaynaklanabileceğini kabul ediyor.

Google'a göre, görsel arama sonuçları, hem eşleşen görseller hem de yanlış bilgiler içeren web kaynaklarını veya sosyal medya gönderilerini içerebiliyor ve bu durum yapay zeka özetlerini etkiliyor.

Google, her zaman alakalı ve yüksek kaliteli bilgi göstermeyi hedeflediğini, sürekli olarak iyileştirme yaptığını ve sorunlar tespit edildiğinde politikaya uygun şekilde ele alınacağını belirtiyor.

Google, yapay zeka genel bakışının nadiren bilgi "uydurma" (yapay zeka "halüsinasyonu" olarak da bilinir) yaptığını iddia etse de, yine de önemli ve hassas konular hakkında yanlış bilgi yaymaktadır.

Örneğin, viral bir videoda, sığınmacıların İngiltere'nin Dover Plajı'na vardığı iddia edilmişti; ancak olay yeri aslında Hindistan'ın Goa kentindeki bir plajdı. Google Lens, videodan ekran görüntüleri aradığında, videoyu "İngiltere'nin Dover Plajı'nda toplanan insanlar" olarak özetledi.

Ya da Rusya - Ukrayna savaşına dair bazı sahte videolar, hatta Arma 3 adlı video oyunundan görüntüler bile yapay zeka tarafından gerçekmiş gibi gösteriliyor ve bu içeriklerin sahte olduğu konusunda herhangi bir uyarıda bulunulmuyor.

Aynı video oyununda iki farklı sahnenin yapay zeka tarafından C-RAM savunma sisteminin top mermilerini engellediği sahne ve SpaceX roketinin fırlatıldığı sahne olarak özetlendiği bir durum var; ancak bu, bunların sahte görüntüler olduğu anlamına gelmiyor.

Google Lens'in yapay zeka sentezi, İngiltere'nin Dover kasabasına gelen mültecilerin bir görüntüsü olduğunu iddia ettiğinde yanlış bilgi verdi - Fotoğraf: TAM GERÇEK

Google Lens, kullanıcıların videolardan fotoğraf veya kareler arayıp bunları benzer görsellerle çevrimiçi karşılaştırmasını sağlayan bir görsel arama motorudur.

Bazen sayfanın en üstünde, web'den ilgili bilgileri toplayan bir yapay zeka özeti görünür. "Yapay zeka hata yapabilir" uyarısına rağmen, yanlış bilgilerin belirgin bir şekilde gösterilmesi, kamuoyunu kolayca yanıltabilir.

Full Fact, Google Lens'in yapay zeka genel bakış aracının manuel gerçek kontrolünün yerine geçecek bir araç olarak değil, bir başlangıç ​​noktası olarak görülmesini ve karşılaştırma için ek güvenilir kaynaklara başvurulmasını öneriyor.

Google arama sonuçlarının yanlış bilgi göstermesi ilk kez olmuyor. Full Fact, Google ve Google.org'dan fon aldığını ancak tam editoryal bağımsızlığını koruduğunu belirtiyor.

Konuya geri dön

ANH PER

Kaynak: https://tuoitre.vn/google-lens-hien-thi-thong-tin-sai-lech-ve-hinh-anh-20250814110509932.htm