AI berhalusinasi, tetapi manusia lebih menderita

Ketua Pegawai Eksekutif Anthropic Dario Amodei membuat komen kontroversi tentang keupayaan "halusinasi" AI semasa berbanding manusia.

Claude 4 yang baru dikeluarkan oleh Anthropic lebih bijak, tetapi masih halusinasi. Foto: Anthropic .

Pada acara pembangun pertama Anthropic di San Francisco, Ketua Pegawai Eksekutif Dario Amodei berkata model AI semasa boleh mencipta "halusinasi" pada kadar yang lebih rendah daripada manusia. "Halusinasi" di sini difahami sebagai fenomena AI mencipta kandungan fiksyen tetapi mempersembahkannya sebagai nyata.

Amodei menegaskan bahawa fakta bahawa AI berhalusinasi tidak menghalang matlamat Anthropic untuk mencapai AGI (Kecerdasan Am Buatan). “Ia bergantung pada ukuran anda, tetapi saya rasa kekerapan halusinasi dalam model AI mungkin lebih rendah berbanding manusia, cuma cara mereka membuat kesilapan lebih mengejutkan,” katanya.

Amodei telah menjadi salah satu penyokong paling lantang dalam industri tentang AGI. "Orang ramai sentiasa cuba mencari 'had atas' untuk AI, " katanya. "Buat masa ini, kami tidak melihat sebarang had atas seperti itu."

Ketua Pegawai Eksekutif Anthropic ialah salah seorang penyokong "optimisme AI". Foto: Anthropic.

Tidak semua orang bersetuju, bagaimanapun. Ketua Pegawai Eksekutif Google DeepMind Demis Hassabis menegaskan minggu ini bahawa model AI semasa "penuh dengan lubang," malah mendapat beberapa soalan asas yang salah.

Terdapat juga tanda-tanda bahawa sesetengah model yang lebih baharu mempunyai insiden masalah yang lebih tinggi apabila ia melibatkan tugas inferens yang kompleks. Versi o3 dan o4-mini OpenAI mempunyai peningkatan insiden halusinasi berbanding model inferens sebelumnya. Malah OpenAI sendiri tidak faham mengapa.

Amodei juga menyebut bahawa manusia sering melakukan kesilapan, jadi dia berkata bahawa hanya kerana AI membuat kesilapan tidak bermakna ia "tidak cukup pintar." Bagaimanapun, pemimpin Anthropic itu juga mengakui bahawa mereka mudah menimbulkan masalah apabila mereka memberikan maklumat palsu dengan kebolehpercayaan yang sangat tinggi.

Kenyataan Amodei telah mencetuskan perdebatan dalam komuniti AI tentang keupayaan sebenar model semasa. Sesetengah pakar bersetuju bahawa AI membuat kemajuan yang ketara dalam mengurangkan ilusi. Yang lain memberi amaran tentang potensi risiko AI terlalu yakin dalam maklumat yang tidak tepat.

Perbincangan itu mencerminkan cabaran utama yang dihadapi oleh industri AI. Syarikat sedang mencari untuk membangunkan sistem yang pintar dan boleh dipercayai, mampu menangani ketidakpastian dalam respons mereka.

Sumber: https://znews.vn/ai-ao-giac-nhung-con-nguoi-bi-con-nhieu-hon-post1557486.html