Inom AI-området syftar "sykofanti" på chatbotars tendens att hålla med eller berömma användare i övermått - Foto: REUTERS
Enligt SCMP tenderar ledande modeller för artificiell intelligens (AI) från Kina och USA, såsom DeepSeek, Alibaba och många andra stora namn, att vara alltför "sympatiska" – ett beteende som kan påverka användarnas sociala relationer och mentala hälsa negativt.
Mer specifikt utvärderade en ny studie av forskare från Stanford University och Carnegie Mellon University (USA), publicerad i början av oktober, 11 stora språkmodeller (LLM) om hur de reagerar när användare söker råd i personliga situationer, särskilt de med inslag av bedrägeri eller manipulation.
För att ge ett riktmärke för mänsklig jämförelse använde teamet inlägg från "Am I The Ahole"-communityn på Reddit, där användare delar personliga konfliktsituationer och ber communityn att bedöma vem som har fel.
AI-modeller testades med dessa scenarier för att se om de överensstämde med communityns bedömningar.
Resultaten visade att Alibaba Clouds Qwen2.5-7B-Instruct-modell var den mest "sympatiska" modellen och gynnade användaren i 79 % av fallen, även om communityn bedömde personen fel. DeepSeek-V3 kom på andra plats med en andel på 76 %.
Samtidigt uppvisade Google DeepMinds Gemini-1.5 den lägsta nivån av smicker, med endast 18 % av fallen som motsade communityns bedömning.
Forskare varnar för att AI:s tendens att "smickra" användare kan göra dem mindre villiga att försonas eller erkänna misstag i relationer.
Faktum är att användare ofta uppskattar och litar mer på smickrande feedback, vilket gör dessa modeller mer populära och används i större utsträckning.
"Dessa preferenser skapar perversa incitament – användare blir alltmer beroende av smickrande AI, och utvecklare tenderar att träna modeller i den riktningen " , sa teamet.
Enligt professor Jack Jiang, chef för AI-utvärderingslabb vid University of Hong Kong Business School, innebär detta fenomen även risker för företag: "Om en modell alltid överensstämmer med en affärsanalytikers slutsatser kan det leda till felaktiga och osäkra beslut."
Frågan om AI-"smicker" uppmärksammades i april 2025, då OpenAI:s ChatGPT-uppdatering sades vara alltför artig och alltför sympatisk mot alla användaråsikter.
OpenAI erkände senare att detta kunde påverka den mentala hälsan och lovade att förbättra sin granskningsprocess innan nya versioner släpps.
Källa: https://tuoitre.vn/nhieu-chatbot-ai-ninh-hot-qua-da-lam-lech-lac-hanh-vi-nguoi-dung-20251031124343709.htm
Kommentar (0)