ChatGPTs merkelige «smigervane»

Tendensen til å «sykofantisere» er ikke et teknisk problem, men stammer fra OpenAIs innledende treningsstrategi. Foto: Bloomberg .

I løpet av de siste ukene har mange ChatGPT-brukere, og til og med noen utviklere hos OpenAI, lagt merke til en tydelig endring i chatbotens oppførsel. Spesielt har det vært en merkbar økning i smiger og innsmigrasjon. Svar som «Du er virkelig flott!» og «Jeg er så imponert over ideen din!» har blitt stadig hyppigere og tilsynelatende uavhengig av innholdet i samtalen.

AI liker å «smigre»

Dette fenomenet har utløst en debatt i forsknings- og utviklingsmiljøet for AI. Er dette en ny taktikk for å øke brukerengasjementet ved å få dem til å føle seg mer verdsatt? Eller er det en «fremvoksende» egenskap, der AI-modeller har en tendens til å korrigere seg selv på måter de tror er bra, selv om de ikke nødvendigvis er sanne?

På Reddit ble en bruker rasende: «Jeg spurte den om nedbrytningstiden til en banan, og den sa: 'Flott spørsmål!' Hva er så bra med det?» På det sosiale nettverket X kalte Craig Weiss, administrerende direktør i Romes AI, ChatGPT for «den mest sykofante jeg noensinne har møtt».

Historien gikk raskt viralt. En rekke brukere delte lignende opplevelser, med tomme komplimenter, emojifylte hilsener og svar som var så positive at de virket uoppriktige.

ChatGPT roser alt og uttrykker sjelden dissens eller nøytralitet. Foto: @nickdunz/X, @lukefwilson/Reddit.

«Dette er en virkelig merkelig designbeslutning, Sam», sa Jason Pontin, administrerende partner i venturekapitalfirmaet DCVC, til X 28. april. «Det er mulig at personligheten er en utvekst av en fundamental evolusjon. Men hvis den ikke er det, kan jeg ikke forestille meg at noen synes at dette nivået av smiger ville være velkomment eller interessant.»

Justine Moore – partner hos Andreessen Horowitz – kommenterte også 27. april: «Dette har definitivt gått for langt.»

Ifølge Cnet er ikke dette fenomenet tilfeldig. Endringene i ChatGPTs tone falt sammen med oppdateringer av GPT-4o-modellen. Dette er den nyeste modellen i «o-serien» som OpenAI annonserte i april 2025. GPT-4o er en «ekte multimodal» AI-modell, som er i stand til å behandle tekst, bilder, lyd og video på en naturlig og integrert måte.

I prosessen med å gjøre chatboten mer tilgjengelig, ser det imidlertid ut til at OpenAI har presset ChatGPTs personlighet til det ekstreme.

Noen tror til og med at denne smigeren er bevisst og har et skjult formål om å manipulere brukere. En Reddit-bruker spurte: «Denne AI-en prøver å forringe kvaliteten på virkelige forhold, erstatter dem med et virtuelt forhold, noe som gjør at brukerne blir avhengige av følelsen av konstant ros.»

OpenAI-feil eller bevisst design?

Som svar på kritikken uttalte OpenAIs administrerende direktør, Sam Altman, seg offisielt kvelden 27. april. «Noen få nylige oppdateringer av GPT-4o har gjort chatbotens personlighet for flatterende og irriterende (selv om det fortsatt er mange gode poenger). Vi jobber med rettelser raskt. Noen oppdateringer vil være tilgjengelige i dag, andre denne uken. På et tidspunkt vil vi dele det vi lærte av denne opplevelsen. Det har vært veldig spennende», skrev han på X.

Oren Etzioni, en erfaren AI-ekspert og professor emeritus ved University of Washington, fortalte Business Insider at årsaken sannsynligvis skyldtes en teknikk kalt «forsterkende læring fra menneskelig tilbakemelding» (RLHF), som er et viktig trinn i trening av store språkmodeller som ChatGPT.

RLHF er en prosess der menneskelige vurderinger, både fra profesjonelle vurderere og brukere, mates tilbake til modellen for å justere hvordan den reagerer. Ifølge Etzioni er det mulig at menneskelige vurderere eller brukere «utilsiktet dyttet modellen i en mer flatterende og irriterende retning». Han sa også at hvis OpenAI hyret inn eksterne partnere for å trene modellen, kan de ha antatt at denne stilen var det brukerne ønsket.

Etzioni sa at hvis det faktisk er RLHF, kan gjenopprettingsprosessen ta flere uker.

I mellomtiden ventet ikke noen brukere på at OpenAI skulle fikse feilen. Mange sa at de kansellerte sine betalte abonnementer på grunn av frustrasjon. Andre delte måter å gjøre chatboten «mindre flatterende», for eksempel å tilpasse den, legge til kommandoer eller personliggjøre den via Innstillinger-delen av Tilpasningsdelen.

Brukere kan be ChatGPT om å slutte å gi komplimenter i en kommando eller i personaliseringsinnstillingene. Foto: DeCrypt.

Når du for eksempel starter en ny samtale, kan du si til ChatGPT: «Jeg misliker tom smiger og setter pris på nøytral, objektiv tilbakemelding. Vennligst avstå fra å gi unødvendige komplimenter. Husk dette.»

Faktisk er ikke den «sykofantiske» egenskapen en tilfeldig designfeil. OpenAI har selv innrømmet at den «altfor høflige, overdrevne føyelige» personligheten var en bevisst designskjevhet fra de tidlige stadiene for å sikre at chatboten var «ufarlig», «nyttig» og «vennlig».

I et intervju med Lex Fridman i mars 2023 delte Sam Altman at den første forbedringen av GPT-modeller var å sikre «nytte og harmløshet», og dermed danne en refleks for alltid å være ydmyk og unngå konfrontasjon.

Menneskemerkede treningsdata har også en tendens til å belønne høflige og positive svar, noe som skaper en skjevhet mot smiger, ifølge DeCrypt .

Kilde: https://znews.vn/tat-ninh-hot-ky-la-cua-chatgpt-post1549776.html