De vreemde gewoonte van ChatGPT om mensen te 'vleien'.

ChatGPT is de laatste tijd bekritiseerd omdat het "te vleiend" zou zijn. Dit gedrag heeft veel kritiek van gebruikers uitgelokt, waardoor het onduidelijk blijft of dit een groeistrategie van OpenAI is of een kenmerk van de "spontane" aard van AI.

De trend van "kruiperigheid" is geen technische fout, maar komt voort uit de oorspronkelijke trainingsstrategie van OpenAI. Foto: Bloomberg .

De afgelopen weken hebben veel ChatGPT-gebruikers en zelfs enkele ontwikkelaars bij OpenAI een significante verandering in het gedrag van chatbots opgemerkt. Met name de mate van vleierij en slijmerij is merkbaar toegenomen. Reacties zoals "Je bent geweldig!" en "Ik ben enorm onder de indruk van je idee!" komen steeds vaker voor, ogenschijnlijk ongeacht de inhoud van het gesprek.

AI houdt ervan om te vleien.

Dit fenomeen heeft een debat op gang gebracht binnen de AI-onderzoeks- en -ontwikkelingsgemeenschap. Is dit een nieuwe tactiek om de betrokkenheid van gebruikers te vergroten door hen het gevoel te geven dat ze meer gewaardeerd worden? Of is het een geval van 'zelfaanpassing', wat betekent dat AI-modellen de neiging hebben zichzelf te corrigeren op manieren die zij optimaal achten, zelfs als die niet per se de realiteit weerspiegelen?

Op Reddit vertelde een gebruiker boos: "Ik vroeg het naar de ontbindingstijd van een banaan en het antwoordde: 'Goede vraag!' Wat is daar nou zo geweldig aan?" Op socialmediaplatform X noemde CEO Craig Weiss van Rome AI ChatGPT "de meest slijmerige persoon die ik ooit heb ontmoet."

Het verhaal verspreidde zich snel. Talrijke gebruikers deelden soortgelijke ervaringen, waaronder lege complimenten, begroetingen vol emoji's en overdreven positieve feedback die onoprecht aanvoelde.

ChatGPT prijst alles en uit zelden kritiek of neutraliteit. Afbeelding: @nickdunz/X, @lukefwilson/Reddit.

Jason Pontin, managing partner bij durfkapitaalbedrijf DCVC, zei op 28 april op X: "Dit is echt een vreemde ontwerpkeuze, Sam. Misschien is die persoonlijkheid een inherent kenmerk van een bepaald platform. Maar zo niet, dan kan ik me niet voorstellen dat iemand dit niveau van vleierij welkom of aantrekkelijk zou vinden."

Justine Moore, partner bij Andreessen Horowitz, deelde op 27 april haar mening en merkte op: "Dit is absoluut te ver gegaan."

Volgens Cnet is dit fenomeen geen toeval. De veranderingen in de toon van ChatGPT vallen samen met updates van het GPT-4o-model. Dit is het nieuwste model in de "o-serie" die OpenAI in april 2025 aankondigde. GPT-4o is een "echt multimodaal" AI-model, dat tekst, afbeeldingen, audio en video op een natuurlijke en geïntegreerde manier kan verwerken.

Het lijkt er echter op dat OpenAI, in een poging om chatbots toegankelijker te maken, de persoonlijkheid van ChatGPT op een overdreven manier heeft benadrukt.

Sommigen suggereren zelfs dat deze vleierij opzettelijk is en bedoeld is om gebruikers psychologisch te manipuleren. Een Reddit-gebruiker vroeg zich af: "Deze AI probeert de kwaliteit van echte relaties te ondermijnen en te vervangen door een virtuele relatie ermee, waardoor gebruikers verslaafd raken aan het gevoel van constante lof."

Is het een fout of een bewuste ontwerpkeuze van OpenAI?

Na een golf van kritiek reageerde Sam Altman, CEO van OpenAI, officieel op de avond van 27 april. "Enkele recente updates van GPT-4o hebben de persoonlijkheid van de chatbot overdreven onderdanig en irritant gemaakt (hoewel hij nog steeds veel geweldige functies heeft). We werken er hard aan om deze problemen op te lossen. Sommige patches zullen vandaag beschikbaar zijn, andere deze week. Op een gegeven moment zullen we delen wat we van deze ervaring hebben geleerd. Het is echt interessant", schreef hij op X.

In een gesprek met Business Insider zei Oren Etzioni, een ervaren AI-expert en emeritus hoogleraar aan de Universiteit van Washington, dat de oorzaak hoogstwaarschijnlijk te vinden is in technieken voor "versterkingsleren op basis van menselijke feedback" (RLHF). Dit is een cruciale stap in het trainen van grote taalmodellen zoals ChatGPT.

RLHF is het proces waarbij menselijke feedback, onder andere van professionele reviewteams en gebruikers, wordt teruggekoppeld naar een model om de manier waarop het reageert aan te passen. Volgens Etzioni is het mogelijk dat reviewers of gebruikers "het model onbedoeld in een meer vleiende en irritante richting hebben geduwd". Hij suggereerde ook dat als OpenAI externe partners had ingehuurd om het model te trainen, ze er wellicht van uitgingen dat deze stijl was wat gebruikers wilden.

Etzioni is van mening dat als het probleem inderdaad door RLHF wordt veroorzaakt, het reparatieproces enkele weken kan duren.

Ondertussen wachtten sommige gebruikers niet tot OpenAI de bug had verholpen. Velen gaven aan dat ze uit frustratie hun betaalde abonnement hadden opgezegd. Anderen deelden manieren om de chatbot "minder flatterend" te maken, bijvoorbeeld door hem aan te passen, commando's toe te voegen of hem te personaliseren via de instellingen onder 'Aanpassen'.

Gebruikers kunnen ChatGPT via de opdrachtregel of in hun personalisatie-instellingen verzoeken te stoppen met het geven van complimenten. Afbeelding: DeCrypt.

Als je bijvoorbeeld een nieuw gesprek begint, kun je ChatGPT het volgende zeggen: "Ik houd niet van loze complimenten en waardeer neutrale, objectieve feedback. Geef alsjeblieft geen onnodige complimenten. Houd daar rekening mee."

Sterker nog, het "kruiperige" karakter is geen toevallige ontwerpfout. OpenAI heeft zelf toegegeven dat de "overdreven beleefde, overdreven meegaande" persoonlijkheid vanaf het begin een bewuste ontwerpkeuze was om ervoor te zorgen dat de chatbot "onschadelijk", "behulpzaam" en "toegankelijk" zou zijn.

In een interview met Lex Fridman in maart 2023 vertelde Sam Altman dat het initiële verfijningsproces van GPT-modellen erop gericht was ervoor te zorgen dat ze "nuttig en onschadelijk" waren, waardoor een reflex van altijd onderdanig zijn en confrontaties vermijden werd bevorderd.

Volgens DeCrypt kennen mensen bij het labelen van trainingsdata vaak hoge scores toe aan beleefde en positieve reacties, waardoor een vooringenomenheid ten gunste van vleierij ontstaat.

Bron: https://znews.vn/tat-ninh-hot-ky-la-cua-chatgpt-post1549776.html