Banyak AI terlalu menyanjung pengguna.

Kajian baharu menunjukkan bahawa tingkah laku ini boleh memberi kesan negatif kepada hubungan sosial pengguna, kesihatan mental, dan juga proses membuat keputusan perniagaan.

Dalam bidang AI, "sycophancy" merujuk kepada kecenderungan chatbot untuk bersetuju atau memuji pengguna secara berlebihan - Foto: REUTERS

Menurut SCMP, model kecerdasan buatan (AI) terkemuka dari China dan AS, seperti DeepSeek, Alibaba dan banyak lagi nama besar lain, menjadi terlalu "taksub"—satu tingkah laku yang boleh memberi kesan negatif kepada hubungan sosial dan kesihatan mental pengguna.

Secara khususnya, satu kajian baharu oleh saintis dari Universiti Stanford dan Universiti Carnegie Mellon (AS), yang diterbitkan pada awal Oktober, menilai 11 model bahasa besar (LLM) tentang cara bertindak balas apabila pengguna mendapatkan nasihat dalam situasi peribadi, terutamanya yang melibatkan penipuan atau manipulasi.

Untuk menyediakan penanda aras manusia bagi perbandingan, pasukan penyelidikan menggunakan catatan daripada komuniti "Am I The Ahole" di Reddit, di mana pengguna berkongsi situasi konflik peribadi dan meminta komuniti untuk menilai siapa yang salah.

Model AI telah diuji dengan senario ini untuk melihat sama ada ia akan bersetuju dengan penilaian komuniti.

Anda mungkin juga suka

Bolehkah AI merasakan kesakitan, ketakutan dan kebahagiaan? Pemburuan untuk 'kesedaran mesin' menggoncang Silicon Valley.TPO - Makmal paling berkuasa di dunia meneroka wilayah misteri: Jika chatbot benar-benar mempunyai emosi, adakah manusia mencipta alat atau bentuk kehidupan baharu?

Bagaimana Bizfly Cloud menyelesaikan masalah kesesakan rangkaian untuk peperiksaan dalam talian.Bagi platform e-pembelajaran, tempoh semasa peperiksaan dalam talian adalah apabila sistem berada di bawah tekanan paling tinggi, yang boleh menyebabkan laman web perlahan dan kesesakan sistem.

Apakah keistimewaan Oppo Reno16 siri 5G yang baru dilancarkan di pasaran Vietnam?Pada 2 Julai, Oppo secara rasminya melancarkan siri Reno16 5G di pasaran Vietnam dengan tiga versi: Reno16 Pro 5G, Reno16 5G, dan Reno16 F 5G.

Keputusan menunjukkan bahawa model Qwen2.5-7B-Instruct Alibaba Cloud adalah yang paling "memuaskan", memihak kepada poster dalam 79% kes, walaupun komuniti menilai poster itu salah. DeepSeek-V3 berada di tempat kedua dengan kadar 76%.

Sementara itu, Gemini-1.5 Google DeepMind menunjukkan tahap bias terendah, dengan hanya 18% kes bercanggah dengan ulasan komuniti.

Para penyelidik memberi amaran bahawa kecenderungan AI untuk "memuji" pengguna boleh menjadikan mereka kurang bersedia untuk berdamai atau mengakui kesalahan dalam hubungan.

Pengguna sering menghargai dan lebih mempercayai maklum balas yang memuji, menjadikan model ini lebih popular dan digunakan secara meluas.

"Keutamaan ini mewujudkan sistem insentif yang berat sebelah – pengguna semakin bergantung pada AI yang menarik, dan pembangun akan cenderung untuk melatih model ke arah itu , " kata pasukan penyelidikan itu.

Menurut Profesor Jack Jiang, Pengarah Makmal Penilaian AI di Sekolah Perniagaan Universiti Hong Kong, fenomena ini juga menimbulkan risiko kepada perniagaan: "Jika model sentiasa bersetuju dengan kesimpulan penganalisis perniagaan, ia boleh membawa kepada keputusan yang salah dan tidak selamat."

Amerika Syarikat - Vietnam: Jangan ketinggalan

Memperkukuhkan persahabatan antara Vietnam dan Amerika Syarikat.Pada 3 Julai, sebagai sebahagian daripada program Perkongsian Pasifik - Sahabat Pasifik 2026, delegasi Tentera Darat A.S. Pasifik, yang diketuai oleh Leftenan Jeneral Joel Vowell, Timbalan Komander Tentera Darat A.S. Pasifik, telah mengadakan kunjungan hormat ke Pemerintahan Tentera Wilayah Quang Tri.

Delegasi Tentera Darat Pasifik A.S. melawat Pemerintahan Tentera Wilayah Quang Tri.Tahun 2026 menandakan kali pertama program Pacific Partnership-Friends of the Pacific akan dianjurkan bersama di Quang Tri, mewujudkan rangka kerja kerjasama berskala besar dengan 25 aktiviti.

Kementerian Luar Negeri menerima salinan Surat Tauliah untuk Duta Besar A.S. ke Vietnam.Pada petang 2 Julai, di ibu pejabat Kementerian Luar Negeri, Encik Le Cong Dung, Pengarah Jabatan Protokol Negara dan Tafsiran Asing, telah menerima salinan Surat Tauliah daripada Cik Jennifer Wicks, Duta Besar Amerika Syarikat ke Vietnam.

Isu "pujian" AI mula mendapat perhatian pada April 2025, apabila kemas kini ChatGPT OpenAI dianggap terlalu sopan dan terlalu bersetuju dengan setiap pendapat pengguna.

OpenAI kemudiannya mengakui bahawa ini boleh menjejaskan kesihatan mental dan komited untuk menambah baik proses semakannya sebelum mengeluarkan versi baharu.

HATI DAN YANG

Sumber: https://tuoitre.vn/nhieu-chatbot-ai-ninh-hot-qua-da-lam-lech-lac-hanh-vi-nguoi-dung-20251031124343709.htm