Google Lens adalah mesin pencari gambar yang dikembangkan oleh Google - Foto: KLMOBILE
Menurut Full Fact, kasus-kasus yang disebutkan di atas melibatkan video yang diduga tentang perang di Ukraina dan Gaza, konflik India-Pakistan, jatuhnya pesawat Air India pada bulan Juni 2025 dan imigran yang datang ke Inggris dengan perahu kecil.
Full Fact menggunakan Google Lens untuk mencari tangkapan layar dari video palsu yang telah mereka periksa faktanya.
Setidaknya dalam 10 kasus, ringkasan AI gagal mengenali konten palsu, bahkan mengulangi misinformasi yang serupa dengan yang ada di media sosial.
Dalam empat contoh, ikhtisar AI mengulangi klaim palsu kata demi kata yang telah dibantah oleh Full Fact. Selain itu, hasil ringkasan AI dapat berubah setiap kali pencarian dilakukan, bahkan untuk gambar yang sama, sehingga menghasilkan informasi yang tidak konsisten.
Google mengakui bahwa beberapa kesalahan ini mungkin terjadi, dengan mengatakan bahwa penyebabnya berasal dari hasil pencarian gambar, bukan dari sistem ikhtisar AI.
Menurut Google, hasil pencarian gambar dapat mencakup sumber web atau unggahan media sosial yang berisi gambar yang cocok dan informasi palsu, dan hal itu memengaruhi peringkasan AI.
Google mengatakan pihaknya selalu bertujuan untuk menampilkan informasi yang relevan dan berkualitas tinggi, terus melakukan peningkatan, dan ketika masalah terdeteksi, masalah tersebut akan ditangani sesuai kebijakan.
Meskipun Google mengklaim bahwa tinjauan umum AI jarang “memalsukan” informasi (juga dikenal sebagai “halusinasi” AI), AI tetap menyebarkan informasi yang salah tentang isu-isu penting dan sensitif.
Misalnya, sebuah video viral secara keliru mengklaim bahwa para pencari suaka sedang tiba di Pantai Dover, Inggris, padahal sebenarnya lokasi kejadian berada di sebuah pantai di Goa, India. Google Lens, ketika mencari tangkapan layar video tersebut, meringkasnya sebagai "orang-orang berkumpul di Pantai Dover, Inggris".
Atau beberapa video palsu tentang perang di Rusia - Ukraina, bahkan gambar dari permainan video Arma 3, digambarkan oleh ikhtisar AI sebagai nyata tanpa peringatan bahwa ini adalah konten palsu.
Ada kasus di mana video game yang sama tetapi dua foto yang berbeda diringkas oleh AI sebagai adegan sistem pertahanan C-RAM yang mencegat peluru artileri dan adegan peluncuran roket SpaceX, sama sekali tidak mengatakan bahwa ini adalah gambar palsu.
Sintesis AI Google Lens memberikan informasi palsu ketika mengklaim bahwa itu adalah gambar pengungsi yang tiba di kota Dover, Inggris - Foto: FAKTA LENGKAP
Google Lens adalah alat pencarian gambar yang memungkinkan pengguna mencari foto atau bingkai dari video untuk dibandingkan dengan gambar serupa secara daring.
Terkadang ringkasan AI akan muncul di bagian atas halaman, menggabungkan informasi relevan dari web. Meskipun ada peringatan bahwa "AI bisa membuat kesalahan," menampilkan misinformasi secara mencolok dapat dengan mudah menyesatkan publik.
Full Fact merekomendasikan agar alat ikhtisar AI Google Lens dilihat sebagai titik awal, bukan pengganti pemeriksaan fakta manual, dan agar sumber tepercaya tambahan dicari untuk perbandingan.
Ini bukan pertama kalinya hasil pencarian Google menampilkan informasi yang salah. Full Fact menyatakan telah menerima pendanaan dari Google dan Google.org sebelumnya, tetapi tetap mempertahankan independensi editorial sepenuhnya.
Sumber: https://tuoitre.vn/google-lens-hien-thi-thong-tin-sai-lech-ve-hinh-anh-20250814110509932.htm
Komentar (0)