Banyak AI terlalu menyanjung pengguna.

Kajian baharu menunjukkan bahawa tingkah laku ini boleh memberi kesan negatif kepada hubungan sosial pengguna, kesihatan mental, dan juga proses membuat keputusan perniagaan.

Dalam bidang AI, "sycophancy" merujuk kepada kecenderungan chatbot untuk bersetuju atau memuji pengguna secara berlebihan - Foto: REUTERS

Menurut SCMP, model kecerdasan buatan (AI) terkemuka dari China dan AS, seperti DeepSeek, Alibaba dan banyak lagi nama besar lain, menjadi terlalu "taksub"—satu tingkah laku yang boleh memberi kesan negatif kepada hubungan sosial dan kesihatan mental pengguna.

Secara khususnya, satu kajian baharu oleh saintis dari Universiti Stanford dan Universiti Carnegie Mellon (AS), yang diterbitkan pada awal Oktober, menilai 11 model bahasa besar (LLM) tentang cara bertindak balas apabila pengguna mendapatkan nasihat dalam situasi peribadi, terutamanya yang melibatkan penipuan atau manipulasi.

Untuk menyediakan penanda aras manusia bagi perbandingan, pasukan penyelidikan menggunakan catatan daripada komuniti "Am I The Ahole" di Reddit, di mana pengguna berkongsi situasi konflik peribadi dan meminta komuniti untuk menilai siapa yang salah.

Model AI telah diuji dengan senario ini untuk melihat sama ada ia akan bersetuju dengan penilaian komuniti.

Anda mungkin juga suka

Cari MacBook Pro M5 Max yang lebih murah daripada $2000 hasil daripada ChatGPT Pro: Apabila AI menjadi pembantu membeli-belah yang hebat.Dengan menggunakan pakej ChatGPT Pro berharga $200, seorang pengguna telah menjimatkan lebih $2000 untuk MacBook Pro M5 Max hasil daripada keupayaannya untuk mengimbas data harga daripada peruncit yang belum mengemas kini senarai harga mereka.

Ledakan cip AI memburukkan lagi ketidaksamaan di Korea Selatan.VTV.vn - Keuntungan daripada cip AI sedang mewujudkan gelombang kekayaan di Korea Selatan, tetapi majoriti penduduk masih belum mendapat manfaat daripada pertumbuhan ini.

Hab Sukan MyTV: "Pembantu AI" untuk peminat Piala Dunia 2026.Bagi peminat bola sepak, Piala Dunia bukanlah sekadar perlawanan selama 90 minit. Kegembiraan sering bermula beberapa jam sebelum sepak mula, apabila penonton dengan penuh minat mengkaji barisan pemain utama, prestasi bintang-bintang, dan meramalkan peluang pasukan kegemaran mereka untuk mara. Dan selepas wisel penamat, perjalanan itu diteruskan dengan perbincangan tentang taktik, detik-detik yang tidak dapat dilupakan, dan cerita sampingan yang menarik.

Keputusan menunjukkan bahawa model Qwen2.5-7B-Instruct Alibaba Cloud adalah yang paling "memuaskan", memihak kepada poster dalam 79% kes, walaupun komuniti menilai poster itu salah. DeepSeek-V3 berada di tempat kedua dengan kadar 76%.

Sementara itu, Gemini-1.5 Google DeepMind menunjukkan tahap bias terendah, dengan hanya 18% kes bercanggah dengan ulasan komuniti.

Para penyelidik memberi amaran bahawa kecenderungan AI untuk "memuji" pengguna boleh menjadikan mereka kurang bersedia untuk berdamai atau mengakui kesalahan dalam hubungan.

Pengguna sering menghargai dan lebih mempercayai maklum balas yang memuji, menjadikan model ini lebih popular dan digunakan secara meluas.

"Keutamaan ini mewujudkan sistem insentif yang berat sebelah – pengguna semakin bergantung pada AI yang menarik, dan pembangun akan cenderung untuk melatih model ke arah itu , " kata pasukan penyelidikan itu.

Menurut Profesor Jack Jiang, Pengarah Makmal Penilaian AI di Sekolah Perniagaan Universiti Hong Kong, fenomena ini juga menimbulkan risiko kepada perniagaan: "Jika model sentiasa bersetuju dengan kesimpulan penganalisis perniagaan, ia boleh membawa kepada keputusan yang salah dan tidak selamat."

Amerika Syarikat - Vietnam: Jangan ketinggalan

Memperkukuhkan persahabatan antara Vietnam dan Amerika Syarikat.Pada 3 Julai, sebagai sebahagian daripada program Perkongsian Pasifik - Sahabat Pasifik 2026, delegasi Tentera Darat A.S. Pasifik, yang diketuai oleh Leftenan Jeneral Joel Vowell, Timbalan Komander Tentera Darat A.S. Pasifik, telah mengadakan kunjungan hormat ke Pemerintahan Tentera Wilayah Quang Tri.

Delegasi Tentera Darat Pasifik A.S. melawat Pemerintahan Tentera Wilayah Quang Tri.Tahun 2026 menandakan kali pertama program Pacific Partnership-Friends of the Pacific akan dianjurkan bersama di Quang Tri, mewujudkan rangka kerja kerjasama berskala besar dengan 25 aktiviti.

Kementerian Luar Negeri menerima salinan Surat Tauliah untuk Duta Besar A.S. ke Vietnam.Pada petang 2 Julai, di ibu pejabat Kementerian Luar Negeri, Encik Le Cong Dung, Pengarah Jabatan Protokol Negara dan Tafsiran Asing, telah menerima salinan Surat Tauliah daripada Cik Jennifer Wicks, Duta Besar Amerika Syarikat ke Vietnam.

Isu "pujian" AI mula mendapat perhatian pada April 2025, apabila kemas kini ChatGPT OpenAI dianggap terlalu sopan dan terlalu bersetuju dengan setiap pendapat pengguna.

OpenAI kemudiannya mengakui bahawa ini boleh menjejaskan kesihatan mental dan komited untuk menambah baik proses semakannya sebelum mengeluarkan versi baharu.

HATI DAN YANG

Sumber: https://tuoitre.vn/nhieu-chatbot-ai-ninh-hot-qua-da-lam-lech-lac-hanh-vi-nguoi-dung-20251031124343709.htm