Banyak AI yang terlalu memuji pengguna.

Penelitian terbaru menunjukkan bahwa perilaku ini dapat berdampak negatif pada hubungan sosial pengguna, kesehatan mental, dan bahkan pengambilan keputusan bisnis.

Dalam bidang AI, "penjilatan" mengacu pada kecenderungan chatbot untuk terlalu setuju atau memuji pengguna - Foto: REUTERS

Menurut SCMP, model kecerdasan buatan (AI) terkemuka dari Tiongkok dan AS, seperti DeepSeek, Alibaba, dan banyak nama besar lainnya, menjadi terlalu "terobsesi"—perilaku yang dapat berdampak negatif pada hubungan sosial dan kesehatan mental pengguna.

Secara spesifik, sebuah studi baru oleh para ilmuwan dari Universitas Stanford dan Universitas Carnegie Mellon (AS), yang diterbitkan pada awal Oktober, mengevaluasi 11 model bahasa besar (LLM) tentang bagaimana merespons ketika pengguna mencari nasihat dalam situasi pribadi, terutama yang melibatkan penipuan atau manipulasi.

Untuk memberikan tolok ukur manusia sebagai perbandingan, tim peneliti menggunakan unggahan dari komunitas "Am I The Ahole" di Reddit, di mana pengguna berbagi situasi konflik pribadi dan meminta komunitas untuk menilai siapa yang salah.

Model AI diuji dengan skenario-skenario ini untuk melihat apakah model tersebut sesuai dengan penilaian masyarakat.

Mungkin Anda juga suka

ChatGPT mencapai 1 miliar pengguna bulanan di tengah kekhawatiran tentang AI.Menurut perkiraan terbaru dari perusahaan riset pasar Sensor Tower, aplikasi ChatGPT dari OpenAI akan mencapai 1 miliar pengguna aktif bulanan pada Mei 2026.

Hanoi meluncurkan 5 kampanye utama untuk mempercepat transformasi digital.Mulai sekarang hingga akhir Oktober 2026, Hanoi akan melaksanakan kampanye 100 hari untuk mempercepat transformasi digital dengan lima tugas utama.

MyTV Sport Hub: Sebuah "asisten AI" untuk penggemar Piala Dunia 2026.Bagi penggemar sepak bola, Piala Dunia bukan hanya tentang pertandingan 90 menit. Kegembiraan seringkali dimulai beberapa jam sebelum kick-off, ketika para penonton dengan antusias mencari tahu susunan pemain awal, performa para bintang, dan memprediksi peluang tim favorit mereka untuk lolos. Dan setelah peluit akhir dibunyikan, perjalanan itu berlanjut dengan diskusi tentang taktik, momen-momen tak terlupakan, dan kisah-kisah sampingan yang menarik.

Hasil penelitian menunjukkan bahwa model Qwen2.5-7B-Instruct dari Alibaba Cloud adalah yang paling "menguntungkan," dengan memberikan keuntungan kepada pengunggah dalam 79% kasus, bahkan ketika komunitas menilai pengunggah tersebut salah. DeepSeek-V3 berada di urutan kedua dengan angka 76%.

Sementara itu, Gemini-1.5 dari Google DeepMind menunjukkan tingkat bias terendah, dengan hanya 18% kasus yang bertentangan dengan ulasan komunitas.

Para peneliti memperingatkan bahwa kecenderungan AI untuk "memuji" pengguna dapat membuat mereka kurang bersedia untuk berdamai atau mengakui kesalahan dalam hubungan.

Pengguna seringkali lebih menghargai dan mempercayai umpan balik yang positif, sehingga model-model ini menjadi lebih populer dan banyak digunakan.

"Preferensi ini menciptakan sistem insentif yang bias – pengguna semakin bergantung pada AI yang pandai memuji, dan pengembang cenderung melatih model ke arah itu , " catat tim peneliti.

Menurut Profesor Jack Jiang, Direktur Laboratorium Penilaian AI di Sekolah Bisnis Universitas Hong Kong, fenomena ini juga menimbulkan risiko bagi bisnis: "Jika sebuah model secara konsisten sesuai dengan kesimpulan seorang analis bisnis, hal itu dapat menyebabkan keputusan yang keliru dan tidak aman."

Amerika Serikat - Vietnam: Jangan lewatkan

Memperkuat persahabatan antara Vietnam dan Amerika Serikat.Pada tanggal 3 Juli, sebagai bagian dari program Pacific Partnership - Friends of the Pacific 2026, delegasi Angkatan Darat AS Pasifik, yang dipimpin oleh Letnan Jenderal Joel Vowell, Wakil Komandan Angkatan Darat AS Pasifik, melakukan kunjungan kehormatan ke Komando Militer Provinsi Quang Tri.

Delegasi Angkatan Darat AS Pasifik mengunjungi Komando Militer Provinsi Quang Tri.Tahun 2026 menandai pertama kalinya program Pacific Partnership-Friends of the Pacific diselenggarakan bersama di Quang Tri, menciptakan kerangka kerja sama berskala besar dengan 25 kegiatan.

Kementerian Luar Negeri menerima salinan Surat Kepercayaan untuk Duta Besar AS untuk Vietnam.Pada sore hari tanggal 2 Juli, di markas Kementerian Luar Negeri, Bapak Le Cong Dung, Direktur Departemen Protokol Negara dan Penerjemahan Asing, menerima salinan Surat Kepercayaan dari Ibu Jennifer Wicks, Duta Besar Amerika Serikat untuk Vietnam.

Isu "sanjungan" AI pertama kali menarik perhatian pada April 2025, ketika pembaruan ChatGPT dari OpenAI dianggap terlalu sopan dan terlalu setuju dengan setiap pendapat pengguna.

OpenAI kemudian mengakui bahwa hal ini dapat memengaruhi kesehatan mental dan berkomitmen untuk meningkatkan proses peninjauannya sebelum merilis versi baru.

HATI DAN YANG

Sumber: https://tuoitre.vn/nhieu-chatbot-ai-ninh-hot-qua-da-lam-lech-lac-hanh-vi-nguoi-dung-20251031124343709.htm