AI berhalusinasi, tapi manusia lebih menderita

CEO Anthropic Dario Amodei membuat komentar kontroversial tentang kemampuan "halusinasi" AI saat ini dibandingkan dengan manusia.

Claude 4 yang baru dirilis Anthropic lebih pintar, tetapi masih menimbulkan halusinasi. Foto: Anthropic .

Pada acara pengembang pertama Anthropic di San Francisco, CEO Dario Amodei mengatakan model AI saat ini dapat menciptakan "halusinasi" pada tingkat yang lebih rendah daripada manusia. "Halusinasi" di sini dipahami sebagai fenomena AI yang menciptakan konten fiksi tetapi menyajikannya sebagai nyata.

Amodei menekankan bahwa fakta bahwa AI berhalusinasi tidak menghalangi tujuan Anthropic untuk mencapai AGI (Kecerdasan Umum Buatan). "Tergantung pada pengukuran Anda, tetapi saya pikir frekuensi halusinasi dalam model AI mungkin lebih rendah daripada pada manusia, hanya saja cara mereka membuat kesalahan lebih mengejutkan," ujarnya.

Amodei telah menjadi salah satu pendukung paling vokal di industri tentang AGI. "Orang-orang selalu berusaha menemukan 'batas atas' untuk AI," ujarnya. "Saat ini, kami tidak melihat adanya batas atas seperti itu."

CEO Anthropic adalah salah satu pendukung "optimisme AI". Foto: Anthropic.

Namun, tidak semua orang setuju. CEO Google DeepMind, Demis Hassabis, minggu ini menunjukkan bahwa model AI saat ini "penuh dengan kekurangan," bahkan dalam beberapa pertanyaan dasar pun salah.

Terdapat pula tanda-tanda bahwa beberapa model yang lebih baru memiliki insiden masalah yang lebih tinggi dalam hal tugas inferensi yang kompleks. Versi o3 dan o4-mini OpenAI memiliki insiden halusinasi yang lebih tinggi dibandingkan model inferensi sebelumnya. Bahkan OpenAI sendiri tidak memahami penyebabnya.

Amodei juga menyebutkan bahwa manusia sering membuat kesalahan, sehingga ia mengatakan bahwa hanya karena AI membuat kesalahan bukan berarti ia "tidak cukup pintar." Namun, pemimpin Antropik ini juga mengakui bahwa AI dapat dengan mudah menimbulkan masalah ketika memberikan informasi palsu dengan tingkat keandalan yang sangat tinggi.

Pernyataan Amodei telah memicu perdebatan di komunitas AI tentang kemampuan sebenarnya dari model-model yang ada. Beberapa pakar sepakat bahwa AI membuat kemajuan signifikan dalam mengurangi ilusi. Sementara itu, pakar lain memperingatkan potensi risiko AI yang terlalu percaya diri pada informasi yang tidak akurat.

Diskusi ini mencerminkan tantangan besar yang dihadapi industri AI. Perusahaan berupaya mengembangkan sistem yang cerdas dan tepercaya, serta mampu menangani ketidakpastian dalam respons mereka.

Sumber: https://znews.vn/ai-ao-giac-nhung-con-nguoi-bi-con-nhieu-hon-post1557486.html