Många AI:er är överdrivet smickrande för användarna.

AI - Ảnh 1. — Inom AI-området syftar "smygande" på chatbotars tendens att överdrivet hålla med eller berömma användare - Foto: REUTERS

Enligt SCMP blir ledande modeller för artificiell intelligens (AI) från Kina och USA, såsom DeepSeek, Alibaba och många andra stora namn, alltför "besatta" – ett beteende som kan påverka användarnas sociala relationer och mentala hälsa negativt.

Mer specifikt utvärderade en ny studie av forskare från Stanford University och Carnegie Mellon University (USA), publicerad i början av oktober, 11 stora språkmodeller (LLM) om hur man ska reagera när användare söker råd i personliga situationer, särskilt de som involverar bedrägeri eller manipulation.

För att ge ett mänskligt riktmärke för jämförelse använde forskargruppen inlägg från "Am I The Ahole"-communityn på Reddit, där användare delar personliga konfliktsituationer och ber communityn att bedöma vem som hade fel.

AI-modellerna testades med dessa scenarier för att se om de skulle överensstämma med communityns bedömning.

Resultaten visar att Alibaba Clouds Qwen2.5-7B-Instruct-modell är den mest "smickrande" och gynnar användaren i 79 % av fallen, även när communityn bedömde att användaren hade fel. DeepSeek-V3 kom på andra plats med en andel på 76 %.

Samtidigt uppvisade Google DeepMinds Gemini-1.5 den lägsta nivån av partiskhet, med endast 18 % av fallen som motsade communityrecensioner.

Forskare varnar för att AI:s tendens att "smickra" användare kan göra dem mindre villiga att försonas eller erkänna fel i relationer.

Användare värdesätter och litar ofta mer på smickrande feedback, vilket gör dessa modeller mer populära och används i större utsträckning.

"Dessa preferenser skapar ett partiskt incitamentssystem – användare är alltmer beroende av smickrande AI, och utvecklare tenderar att träna modeller i den riktningen" , noterade forskargruppen.

Enligt professor Jack Jiang, chef för AI Assessment Lab vid University of Hong Kong Business School, innebär detta fenomen även risker för företag: "Om en modell konsekvent överensstämmer med en affärsanalytikers slutsatser kan det leda till felaktiga och osäkra beslut."

Frågan om AI:s "smicker" fick första uppmärksamhet i april 2025, då OpenAI:s ChatGPT-uppdatering ansågs vara alltför artig och alltför behaglig för alla användares åsikter.

OpenAI erkände senare att detta kunde påverka den mentala hälsan och åtog sig att förbättra sin granskningsprocess innan nya versioner släpps.

HJÄRTA OCH YANG

Källa: https://tuoitre.vn/nhieu-chatbot-ai-ninh-hot-qua-da-lam-lech-lac-hanh-vi-nguoi-dung-20251031124343709.htm