AI masih kesulitan menggantikan peran manusia dalam memverifikasi informasi.

VTV.vn - AI dapat membantu dalam pencarian informasi, tetapi masih sering salah dan belum dapat menggantikan manusia dalam pengecekan fakta.

(Gambar ilustrasi)

AI digunakan oleh banyak orang untuk pencarian informasi dan pembangkitan ide, tetapi di bidang pengecekan fakta, alat-alat ini masih menunjukkan banyak keterbatasan yang mengkhawatirkan.

Menurut sebuah artikel di WIRED, hampir separuh warga Amerika mengatakan mereka menggunakan AI untuk mencari informasi dan menghasilkan ide. Hal ini dapat dimengerti mengingat semakin banyaknya konten berkualitas rendah di media sosial, sementara mesin pencari juga mempersulit banyak orang untuk menemukan sumber yang dapat diandalkan. Namun, jika menyangkut kebenaran, risiko dari informasi yang salah jauh lebih besar.

Penulis artikel tersebut, seorang pemeriksa fakta di WIRED, berpendapat bahwa AI belum dapat menggantikan proses pengecekan fakta oleh manusia. Pekerjaan ini melibatkan lebih dari sekadar pencarian di internet; ini juga mencakup rujukan silang, memprioritaskan sumber, memeriksa asumsi, mengidentifikasi informasi yang bertentangan, menghubungi sumber, dan mengevaluasi isu-isu etika dan hukum.

AI kini semakin banyak digunakan dalam pengecekan fakta setelah informasi dipublikasikan. Di Inggris, organisasi Full Fact telah mengembangkan alat AI untuk memproses sejumlah besar data, mulai dari unggahan media sosial hingga rekaman podcast, sehingga mengidentifikasi klaim yang memerlukan penyelidikan lebih lanjut oleh manusia. Namun, Mark Frankel, kepala kebijakan publik di Full Fact, menekankan bahwa proses ini masih membutuhkan intervensi manusia.

Alasan utamanya adalah AI masih sering memberikan jawaban yang salah. Sebuah studi Maret 2025 oleh Tow Centre for Digital Journalism menemukan bahwa lebih dari 60% respons dari mesin pencari yang terintegrasi dengan AI tidak akurat. Sebuah studi BBC juga menunjukkan bahwa tingkat kesalahan untuk chatbot sekitar 45%.

Situs web dan logo Anthropic ditampilkan di layar komputer di New York, AS, pada 26 Februari 2026. (Foto: AP)

Tes khusus juga menghasilkan hasil yang hati-hati. Dalam RealFactBench, sebuah tolok ukur pengecekan fakta yang dikembangkan oleh ilmuwan komputer di Tiongkok dan Inggris, Claude mencapai akurasi 73% di semua indikator. Sementara itu, SimpleQA dari OpenAI menunjukkan bahwa tidak satu pun model OpenAI atau Anthropic yang melampaui akurasi 50% pada lebih dari 4.000 pertanyaan dengan jawaban tunggal.

Penulis juga mencoba menerapkan uji verifikasi pada ChatGPT, Claude, Gemini, dan Grok. Model-model tersebut dapat menguraikan rencana kerja, mengidentifikasi risiko hukum, atau menyarankan metode verifikasi, tetapi semuanya berhenti sebelum benar-benar memverifikasi fakta.

Artikel ini berpendapat bahwa kekuatan manusia terletak pada kemampuan untuk memproses informasi yang tidak mudah tersedia di internet, mengenali nuansa dalam komunikasi, menilai hubungan antar sumber, dan mengajukan pertanyaan dalam situasi sensitif. Oleh karena itu, AI dapat menjadi alat yang bermanfaat, tetapi pengecekan fakta tetap membutuhkan kehati-hatian, pengalaman, dan tanggung jawab manusia.

Sumber: https://vtv.vn/ai-van-kho-thay-con-nguoi-trong-kiem-chung-thong-tin-10026052717475078.htm