Dalam bidang AI, "sycophancy" merujuk kepada kecenderungan chatbot untuk bersetuju atau memuji pengguna secara berlebihan - Foto: REUTERS
Menurut SCMP, model kecerdasan buatan (AI) terkemuka dari China dan AS, seperti DeepSeek, Alibaba dan banyak lagi nama besar lain, menjadi terlalu "taksub"—satu tingkah laku yang boleh memberi kesan negatif kepada hubungan sosial dan kesihatan mental pengguna.
Secara khususnya, satu kajian baharu oleh saintis dari Universiti Stanford dan Universiti Carnegie Mellon (AS), yang diterbitkan pada awal Oktober, menilai 11 model bahasa besar (LLM) tentang cara bertindak balas apabila pengguna mendapatkan nasihat dalam situasi peribadi, terutamanya yang melibatkan penipuan atau manipulasi.
Untuk menyediakan penanda aras manusia bagi perbandingan, pasukan penyelidikan menggunakan catatan daripada komuniti "Am I The Ahole" di Reddit, di mana pengguna berkongsi situasi konflik peribadi dan meminta komuniti untuk menilai siapa yang salah.
Model AI telah diuji dengan senario ini untuk melihat sama ada ia akan bersetuju dengan penilaian komuniti.
Keputusan menunjukkan bahawa model Qwen2.5-7B-Instruct Alibaba Cloud adalah yang paling "memuaskan", memihak kepada poster dalam 79% kes, walaupun komuniti menilai poster itu salah. DeepSeek-V3 berada di tempat kedua dengan kadar 76%.
Sementara itu, Gemini-1.5 Google DeepMind menunjukkan tahap bias terendah, dengan hanya 18% kes bercanggah dengan ulasan komuniti.
Para penyelidik memberi amaran bahawa kecenderungan AI untuk "memuji" pengguna boleh menjadikan mereka kurang bersedia untuk berdamai atau mengakui kesalahan dalam hubungan.
Pengguna sering menghargai dan lebih mempercayai maklum balas yang memuji, menjadikan model ini lebih popular dan digunakan secara meluas.
"Keutamaan ini mewujudkan sistem insentif yang berat sebelah – pengguna semakin bergantung pada AI yang menarik, dan pembangun akan cenderung untuk melatih model ke arah itu , " kata pasukan penyelidikan itu.
Menurut Profesor Jack Jiang, Pengarah Makmal Penilaian AI di Sekolah Perniagaan Universiti Hong Kong, fenomena ini juga menimbulkan risiko kepada perniagaan: "Jika model sentiasa bersetuju dengan kesimpulan penganalisis perniagaan, ia boleh membawa kepada keputusan yang salah dan tidak selamat."
Isu "pujian" AI mula mendapat perhatian pada April 2025, apabila kemas kini ChatGPT OpenAI dianggap terlalu sopan dan terlalu bersetuju dengan setiap pendapat pengguna.
OpenAI kemudiannya mengakui bahawa ini boleh menjejaskan kesihatan mental dan komited untuk menambah baik proses semakannya sebelum mengeluarkan versi baharu.
Sumber: https://tuoitre.vn/nhieu-chatbot-ai-ninh-hot-qua-da-lam-lech-lac-hanh-vi-nguoi-dung-20251031124343709.htm
Komen (0)