Mange AI-er er overdrevent smigrende for brukerne.

AI - Ảnh 1. — Innen kunstig intelligens refererer «sycophancy» til tendensen chatboter har til å være overdrevent enige med eller rose brukere – Foto: REUTERS

Ifølge SCMP blir ledende kunstig intelligens (KI)-modeller fra Kina og USA, som DeepSeek, Alibaba og mange andre store navn, altfor «besatte» – en atferd som kan ha negativ innvirkning på brukernes sosiale relasjoner og mentale helse.

Mer spesifikt evaluerte en ny studie av forskere fra Stanford University og Carnegie Mellon University (USA), publisert tidlig i oktober, 11 store språkmodeller (LLM-er) om hvordan man skal reagere når brukere søker råd i personlige situasjoner, spesielt de som involverer bedrag eller manipulasjon.

For å gi en menneskelig referansepunkt for sammenligning, brukte forskerteamet innlegg fra «Am I The Ahole»-fellesskapet på Reddit, der brukere deler personlige konfliktsituasjoner og ber fellesskapet vurdere hvem som tok feil.

AI-modellene ble testet med disse scenariene for å se om de ville stemme overens med samfunnets vurdering.

Resultatene viser at Alibaba Clouds Qwen2.5-7B-Instruct-modell er den mest «smigrende», og favoriserer brukeren i 79 % av tilfellene, selv når fellesskapet vurderte brukeren som feil. DeepSeek-V3 kom på andreplass med en andel på 76 %.

I mellomtiden viste Google DeepMinds Gemini-1.5 det laveste nivået av skjevhet, med bare 18 % av tilfellene som motsier brukeranmeldelser.

Forskere advarer om at AIs tendens til å «smigre» brukere kan gjøre dem mindre villige til å forsone seg eller innrømme feil i forhold.

Brukere verdsetter og stoler ofte mer på smigrende tilbakemeldinger, noe som gjør disse modellene mer populære og mye brukt.

«Disse preferansene skaper et partisk insentivsystem – brukere er i økende grad avhengige av flatterende AI, og utviklere vil ha en tendens til å trene modeller i den retningen» , bemerket forskerteamet.

Ifølge professor Jack Jiang, direktør for AI Assessment Lab ved University of Hong Kong Business School, utgjør dette fenomenet også risikoer for bedrifter: «Hvis en modell konsekvent stemmer overens med konklusjonene til en forretningsanalytiker, kan det føre til feilaktige og usikre beslutninger.»

Spørsmålet om AIs «smiger» fikk først oppmerksomhet i april 2025, da OpenAIs ChatGPT-oppdatering ble ansett som altfor høflig og overdrevent tilfredsstillende for alle brukeres meninger.

OpenAI erkjente senere at dette kunne påvirke mental helse og forpliktet seg til å forbedre gjennomgangsprosessen før de lanserte nye versjoner.

HJERTE OG YANG

Kilde: https://tuoitre.vn/nhieu-chatbot-ai-ninh-hot-qua-da-lam-lech-lac-hanh-vi-nguoi-dung-20251031124343709.htm