Google Lens menampilkan informasi yang menyesatkan tentang gambar

Sebuah investigasi oleh organisasi pemeriksa fakta Full Fact menemukan bahwa ikhtisar AI dalam hasil pencarian Google Lens telah memberikan informasi palsu atau menyesatkan tentang sejumlah gambar yang beredar luas di media sosial.

Google Lens adalah mesin pencari gambar yang dikembangkan oleh Google - Foto: KLMOBILE

Menurut Full Fact, kasus-kasus di atas melibatkan video yang diduga tentang perang di Ukraina dan Gaza, konflik India-Pakistan, jatuhnya pesawat Air India pada bulan Juni 2025 dan imigran yang datang ke Inggris dengan perahu kecil.

Full Fact menggunakan Google Lens untuk mencari tangkapan layar dari video palsu yang telah mereka periksa faktanya.

Setidaknya dalam 10 kasus, ringkasan AI gagal mengenali konten palsu, bahkan mengulangi misinformasi yang sama seperti di media sosial.

Dalam empat contoh, ikhtisar AI mengulangi klaim palsu kata demi kata yang telah dibantah oleh Full Fact. Selain itu, hasil ringkasan AI dapat berubah setiap kali mencari, bahkan untuk gambar yang sama, sehingga menghasilkan informasi yang tidak konsisten.

Google mengakui bahwa beberapa kesalahan ini mungkin terjadi, dengan mengatakan bahwa kesalahan tersebut berasal dari hasil pencarian gambar, bukan dari sistem ikhtisar AI.

Menurut Google, hasil pencarian gambar dapat mencakup sumber web atau unggahan media sosial yang berisi gambar yang cocok dan informasi palsu, dan hal itu memengaruhi ringkasan AI.

Google mengatakan pihaknya selalu bertujuan untuk menampilkan informasi yang relevan dan berkualitas tinggi, terus melakukan peningkatan, dan ketika masalah terdeteksi, masalah tersebut akan ditangani sesuai kebijakan.

Meskipun Google mengklaim bahwa tinjauan umum AI jarang “memalsukan” informasi (juga dikenal sebagai “halusinasi” AI), AI tetap menyebarkan informasi yang salah tentang isu-isu penting dan sensitif.

Misalnya, sebuah video viral secara keliru mengklaim para pencari suaka sedang tiba di Pantai Dover, Inggris, padahal sebenarnya lokasi kejadian berada di sebuah pantai di Goa, India. Google Lens, ketika mencari tangkapan layar dari video tersebut, meringkasnya sebagai "orang-orang berkumpul di Pantai Dover, Inggris".

Atau beberapa video palsu tentang perang di Rusia - Ukraina, bahkan gambar dari permainan video Arma 3, digambarkan sebagai nyata oleh ikhtisar AI tanpa peringatan bahwa ini adalah konten palsu.

Ada kasus di mana permainan video yang sama tetapi dua adegan berbeda diringkas oleh AI sebagai adegan sistem pertahanan C-RAM yang mencegat peluru artileri dan adegan peluncuran roket SpaceX, yang bukan berarti ini adalah gambar palsu.

Sintesis AI Google Lens memberikan informasi palsu ketika mengklaim bahwa itu adalah gambar pengungsi yang tiba di kota Dover, Inggris - Foto: FAKTA LENGKAP

Google Lens adalah mesin pencari gambar yang memungkinkan pengguna mencari foto atau bingkai dari video untuk dibandingkan dengan gambar serupa secara daring.

Terkadang ringkasan AI akan muncul di bagian atas halaman, menggabungkan informasi relevan dari web. Meskipun ada peringatan bahwa "AI bisa membuat kesalahan," menampilkan misinformasi secara mencolok dapat dengan mudah menyesatkan publik.

Full Fact merekomendasikan agar alat ikhtisar AI Google Lens dilihat sebagai titik awal, bukan pengganti pemeriksaan fakta manual, dan agar sumber tepercaya tambahan dicari untuk perbandingan.

Ini bukan pertama kalinya hasil pencarian Google menampilkan informasi yang salah. Full Fact menyatakan telah menerima dana dari Google dan Google.org, tetapi tetap mempertahankan independensi editorial sepenuhnya.

Kembali ke topik

Kamis, 10 ANH

Sumber: https://tuoitre.vn/google-lens-hien-thi-thong-tin-sai-lech-ve-hinh-anh-20250814110509932.htm