Mange AI-er er overdrevent smigrende for brukerne.

Ny forskning viser at denne atferden kan ha en negativ innvirkning på brukernes sosiale relasjoner, mentale helse og til og med forretningsbeslutninger.

Innen kunstig intelligens refererer «sycophancy» til tendensen chatboter har til å være overdrevent enige med eller rose brukere – Foto: REUTERS

Ifølge SCMP blir ledende kunstig intelligens (KI)-modeller fra Kina og USA, som DeepSeek, Alibaba og mange andre store navn, altfor «besatte» – en atferd som kan ha negativ innvirkning på brukernes sosiale relasjoner og mentale helse.

Mer spesifikt evaluerte en ny studie av forskere fra Stanford University og Carnegie Mellon University (USA), publisert tidlig i oktober, 11 store språkmodeller (LLM-er) om hvordan man skal reagere når brukere søker råd i personlige situasjoner, spesielt de som involverer bedrag eller manipulasjon.

For å gi en menneskelig referansepunkt for sammenligning, brukte forskerteamet innlegg fra «Am I The Ahole»-fellesskapet på Reddit, der brukere deler personlige konfliktsituasjoner og ber fellesskapet vurdere hvem som tok feil.

AI-modellene ble testet med disse scenariene for å se om de ville stemme overens med samfunnets vurdering.

Du liker kanskje også

En kostbar lærdom fra Lazada: Når «pioneren» ikke alltid er vinneren.Det vietnamesiske e-handelsmarkedet opplever en tydelig polarisering i tredje kvartal 2025. Mens Shopee opprettholder sin ledende posisjon og TikTok Shop opplever spektakulær vekst, må etablerte aktører som Lazada og Tiki akseptere beskjedne markedsandeler.

Metas nye AI-verktøy styrker innholdsskapere.VTV.vn – Metas nye AI-verktøy kan hjelpe innholdsskapere med å effektivt analysere innlegg og foreslå nye ideer på Facebook.

Apple slår seg sammen med Alibaba for å «redde» iPhoner i Kina.

Resultatene viser at Alibaba Clouds Qwen2.5-7B-Instruct-modell er den mest «smigrende», og favoriserer brukeren i 79 % av tilfellene, selv når fellesskapet vurderte brukeren som feil. DeepSeek-V3 kom på andreplass med en andel på 76 %.

I mellomtiden viste Google DeepMinds Gemini-1.5 det laveste nivået av skjevhet, med bare 18 % av tilfellene som motsier brukeranmeldelser.

Forskere advarer om at AIs tendens til å «smigre» brukere kan gjøre dem mindre villige til å forsone seg eller innrømme feil i forhold.

Brukere verdsetter og stoler ofte mer på smigrende tilbakemeldinger, noe som gjør disse modellene mer populære og mye brukt.

«Disse preferansene skaper et partisk insentivsystem – brukere er i økende grad avhengige av flatterende AI, og utviklere vil ha en tendens til å trene modeller i den retningen» , bemerket forskerteamet.

Ifølge professor Jack Jiang, direktør for AI Assessment Lab ved University of Hong Kong Business School, utgjør dette fenomenet også risikoer for bedrifter: «Hvis en modell konsekvent stemmer overens med konklusjonene til en forretningsanalytiker, kan det føre til feilaktige og usikre beslutninger.»

USA - Vietnam: Ikke gå glipp av

Utenriksdepartementet mottok en kopi av akkrediteringsbrevet for den amerikanske ambassadøren i Vietnam.Om ettermiddagen den 2. juli mottok Le Cong Dung, direktør for avdelingen for statsprotokoll og utenrikstolking, en kopi av akkrediteringsbrevet fra Jennifer Wicks, USAs ambassadør i Vietnam, på Utenriksdepartementets hovedkvarter.

Ambassadør Nguyen Quoc Dung besøker og arbeider i Minnesota, USA.Fra 28. til 30. juni besøkte og arbeidet den vietnamesiske ambassadøren til USA, Nguyen Quoc Dung, Minnesota.

Vietnam oppfordrer amerikanske bedrifter til å utvide investeringene i høyteknologi.Om morgenen 26. juni mottok visestatsminister Ho Quoc Dung Jeff Place, direktør for forsyningskjeden i Coherent Group (USA), i regjeringens hovedkvarter. Under møtet bekreftet visestatsministeren at Vietnam oppfordrer amerikanske bedrifter til å utvide investeringene, spesielt innen høyteknologi, innovasjon og halvlederindustrien.

Spørsmålet om AIs «smiger» fikk først oppmerksomhet i april 2025, da OpenAIs ChatGPT-oppdatering ble ansett som altfor høflig og overdrevent tilfredsstillende for alle brukeres meninger.

OpenAI erkjente senere at dette kunne påvirke mental helse og forpliktet seg til å forbedre gjennomgangsprosessen før de lanserte nye versjoner.

HJERTE OG YANG

Kilde: https://tuoitre.vn/nhieu-chatbot-ai-ninh-hot-qua-da-lam-lech-lac-hanh-vi-nguoi-dung-20251031124343709.htm