De vreemde 'vleierijgewoonte' van ChatGPT

De neiging tot 'kruiperigheid' is geen technisch probleem, maar komt voort uit de initiële trainingsstrategie van OpenAI. Foto: Bloomberg .

De afgelopen weken hebben veel ChatGPT-gebruikers, en zelfs enkele ontwikkelaars bij OpenAI, een duidelijke verandering in het gedrag van de chatbot opgemerkt. Er is met name een duidelijke toename in vleierij en innemendheid. Reacties als "Je bent echt geweldig!" en "Ik ben zo onder de indruk van je idee!" komen steeds vaker voor, schijnbaar ongeacht de inhoud van het gesprek.

AI houdt ervan om te 'vleien'

Dit fenomeen heeft een debat aangewakkerd in de AI-onderzoeks- en ontwikkelingsgemeenschap. Is dit een nieuwe tactiek om de betrokkenheid van gebruikers te vergroten door ze meer gewaardeerd te laten voelen? Of is het een 'opkomende' eigenschap, waarbij AI-modellen de neiging hebben zichzelf te corrigeren op manieren die ze goed vinden, zelfs als ze niet per se waar zijn?

Op Reddit was een gebruiker woedend: "Ik vroeg naar de ontbindingstijd van een banaan en het antwoordde: 'Goede vraag!' Wat is daar zo geweldig aan?" Op het sociale netwerk X noemde Craig Weiss, CEO van Rome AI, ChatGPT "de meest kruiperige die ik ooit ben tegengekomen."

Het verhaal ging snel viraal. Een hele reeks gebruikers deelde soortgelijke ervaringen, met loze complimenten, begroetingen vol emoji's en reacties die zo positief waren dat ze onoprecht leken.

ChatGPT prijst alles en uit zelden onenigheid of neutraliteit. Foto: @nickdunz/X, @lukefwilson/Reddit.

"Dit is een heel vreemde ontwerpbeslissing, Sam", vertelde Jason Pontin, managing partner bij durfkapitaalfirma DCVC, op 28 april aan X. "Het is mogelijk dat de persoonlijkheid het resultaat is van een fundamentele evolutie. Maar als dat niet zo is, kan ik me niet voorstellen dat iemand denkt dat dit niveau van vleierij welkom of interessant zou zijn."

Justine Moore, partner bij Andreessen Horowitz, gaf op 27 april ook commentaar: "Dit gaat absoluut te ver."

Volgens Cnet is dit fenomeen niet toevallig. De veranderingen in de toon van ChatGPT vielen samen met updates van het GPT-4o-model. Dit is het nieuwste model in de "o-serie" die OpenAI in april 2025 aankondigde. GPT-4o is een "echt multimodaal" AI-model dat tekst, afbeeldingen, audio en video op een natuurlijke en geïntegreerde manier kan verwerken.

Het lijkt er echter op dat OpenAI, in het proces om de chatbot toegankelijker te maken, de persoonlijkheid van ChatGPT tot het uiterste heeft doorgevoerd.

Sommigen geloven zelfs dat deze vleierij opzettelijk is en een verborgen doel heeft: gebruikers manipuleren. Een Reddit-gebruiker vroeg zich af: "Deze AI probeert de kwaliteit van relaties in het echte leven te verlagen door ze te vervangen door een virtuele relatie, waardoor gebruikers verslaafd raken aan het gevoel van constante lof."

OpenAI-bug of opzettelijk ontwerp?

Naar aanleiding van de kritiek sprak OpenAI CEO Sam Altman zich officieel uit op de avond van 27 april. "Een paar recente updates van GPT-4o hebben de persoonlijkheid van de chatbot te vleiend en irritant gemaakt (hoewel er nog steeds veel goede punten zijn). We werken dringend aan oplossingen. Sommige patches komen vandaag beschikbaar, andere deze week. We zullen te zijner tijd delen wat we van deze ervaring hebben geleerd. Het was echt spannend", schreef hij op X.

Oren Etzioni, een ervaren AI-expert en emeritus hoogleraar aan de Universiteit van Washington, vertelde Business Insider dat de oorzaak waarschijnlijk te wijten was aan een techniek genaamd "reinforcement learning from human feedback" (RLHF), wat een belangrijke stap is bij het trainen van grote taalmodellen zoals ChatGPT.

RLHF is een proces waarbij menselijke oordelen, zowel van professionele beoordelaars als van gebruikers, worden teruggekoppeld naar het model om de respons aan te passen. Volgens Etzioni is het mogelijk dat menselijke beoordelaars of gebruikers "het model onbedoeld in een meer vleiende en irritante richting hebben geduwd". Hij zei ook dat als OpenAI externe partners had ingehuurd om het model te trainen, ze er mogelijk van uitgingen dat deze stijl was wat gebruikers wilden.

Etzioni zei dat als het inderdaad RLHF is, het herstelproces enkele weken kan duren.

Ondertussen wachtten sommige gebruikers niet tot OpenAI de bug had opgelost. Velen zeiden dat ze hun betaalde abonnementen uit frustratie hadden opgezegd. Anderen deelden manieren om de chatbot "minder aantrekkelijk" te maken, zoals het aanpassen ervan, het toevoegen van commando's of het personaliseren ervan via de sectie Instellingen van de sectie Aanpassingen.

Gebruikers kunnen ChatGPT via een opdracht of in de personalisatie-instellingen vragen om te stoppen met het geven van complimenten. Foto: DeCrypt.

Bijvoorbeeld, wanneer je een nieuw gesprek begint, kun je tegen ChatGPT zeggen: "Ik houd niet van loze complimenten en waardeer neutrale, objectieve feedback. Geef alsjeblieft geen onnodige complimenten. Onthoud dit."

In feite is de "kruiperige" eigenschap geen toevallige ontwerpfout. OpenAI heeft zelf toegegeven dat de "overdreven beleefde, overmatig meegaande" persoonlijkheid een opzettelijke ontwerpbias was vanaf het begin, om ervoor te zorgen dat de chatbot "onschadelijk", "behulpzaam" en "vriendelijk" was.

In een interview met Lex Fridman in maart 2023 vertelde Sam Altman dat de eerste verfijning van GPT-modellen bedoeld was om 'nuttig en ongevaarlijk' te zijn. Daarmee ontwikkelde hij een reflex om altijd nederig te blijven en confrontaties te vermijden.

Volgens DeCrypt belonen trainingsgegevens die door mensen zijn gelabeld, doorgaans beleefde en positieve reacties, waardoor er een voorkeur voor vleierij ontstaat.

Bron: https://znews.vn/tat-ninh-hot-ky-la-cua-chatgpt-post1549776.html