Semakin banyak maklumat salah, patutkah kita mencari dan bertanya kepada AI?

Pada zaman di mana kecerdasan buatan boleh menjawab sebarang soalan dalam beberapa saat, ramai orang menganggap AI sebagai sumber pengetahuan yang tepat. Tetapi jika maklumat input salah, bolehkah AI menjana jawapan yang betul?

Adakah maklumat daripada AI sentiasa betul?

Dalam dunia di mana maklumat bercampur-campur, bergantung sepenuhnya pada AI untuk memberitahu kebenaran adalah satu perjudian.

AI tidak tahu betul dan salah, ia hanya mencerminkan data.

Menurut Tuoi Tre Online , kecerdasan buatan dilatih daripada sejumlah besar data yang dikumpul daripada Internet, di mana terdapat kedua-dua pengetahuan ortodoks dan teori konspirasi. AI tidak membezakan antara kebenaran dan kepalsuan, ia hanya merekodkan corak bahasa dan bertindak balas berdasarkan apa yang dipelajarinya. Jika maklumat latihan mengandungi ralat atau berat sebelah, AI juga akan mencerminkannya dalam jawapan.

Selain data asal, perkara yang diberikan pengguna dalam soalan juga secara langsung mempengaruhi ketepatan. Soalan yang salah tetapi dikemukakan dengan baik akan menjadi lebih mudah jadikan AI "percaya ia benar" dan hasilkan jawapan palsu dengan sewajarnya.

Khususnya, jika pengguna meminta maklum balas yang mengesahkan sesuatu yang tidak benar, AI boleh "mematuhinya" kerana matlamatnya adalah untuk menjana respons semantik, bukan untuk mengesahkan kebenaran.

Inilah sebabnya mengapa AI boleh "bercakap dengan lancar tetapi salah secara paten." Ia tidak menilai betul dari salah seperti manusia, tetapi hanya meramalkan perkataan seterusnya yang paling mungkin. Ini membawa kepada fenomena yang dipanggil pengkaji halusinasi, apabila AI mencipta maklumat palsu yang terdengar masuk akal. Nama, peristiwa, malah kajian saintifik boleh "dibuat" jika AI tidak dapat mencari data yang betul.

Bilakah AI "betul" dalam lautan maklumat yang salah?

Walaupun ia tidak mampu mengiktiraf kebenaran sendiri, AI masih boleh menjana respons yang tepat dalam keadaan tertentu.

Apabila soalan meminta untuk menyangkal atau mengesahkan maklumat palsu, model akan cenderung mencari kemustahilan dan menafikannya.

Sebagai contoh, jika pengguna membuat hujah "Bumi rata jadi tidak boleh ada satelit yang mengorbitnya," dan meminta analisis, AI akan membalasnya berdasarkan sains graviti dan orbit.

Keupayaan AI untuk "membetulkannya" juga meningkat jika ia disepadukan dengan alat pengesahan, seperti akses masa nyata kepada data baharu, mencari melalui sumber yang dipercayai atau menggunakan API daripada repositori pengetahuan yang berwibawa. Kemudian, AI bukan sahaja boleh bergantung pada pengetahuan yang telah dilatih tetapi juga boleh mengemas kini dan membandingkannya dengan realiti.

Walau bagaimanapun, prasyarat masih adalah cara pengguna menimbulkan masalah . Sekiranya topik itu salah dari awal dan AI diminta menulis dengan cara yang afirmatif, model akan cenderung mengikuti, terutamanya jika ia tidak diminta untuk berhujah. Dalam kes itu, AI boleh menghasilkan kandungan yang salah tetapi bahasanya masih fasih dan mudah membuat pembaca percaya.

Semakin pintar AI, semakin banyak pengguna yang perlu waspada

Kepintaran buatan tidak menggantikan manusia dalam mengesahkan kebenaran. Walaupun ia boleh menjana kandungan yang menarik dan munasabah, AI tidak mempunyai hati nurani dan etika untuk menentukan betul dan salah.

Pengguna harus melihat AI sebagai bantuan bersyarat, bukan sumber kebenaran mutlak. Lebih tepat pengetahuan input, lebih dipercayai tindak balas AI.

Kembali ke topik

TUAN VI

Sumber: https://tuoitre.vn/ngay-cang-nhieu-thong-tin-sai-co-nen-tim-kiem-hoi-ai-20250626101350386.htm