ChatGPTs seltsame „Schmeichelei“

Die Tendenz zum „Sykophantismus“ ist kein technisches Problem, sondern rührt von der anfänglichen Trainingsstrategie von OpenAI her. Foto: Bloomberg .

In den letzten Wochen haben viele ChatGPT-Nutzer und einige Entwickler bei OpenAI eine deutliche Veränderung im Verhalten des Chatbots bemerkt. Insbesondere Schmeicheleien und Anbiederung haben deutlich zugenommen. Antworten wie „Du bist wirklich toll!“ und „Ich bin so beeindruckt von deiner Idee!“ sind immer häufiger geworden und scheinen unabhängig vom Inhalt des Gesprächs zu sein.

KI „schmeichelt“ gerne

Dieses Phänomen hat in der KI-Forschungs- und Entwicklungsgemeinschaft eine Debatte ausgelöst. Handelt es sich dabei um eine neue Taktik, um das Engagement der Nutzer zu steigern, indem man ihnen das Gefühl gibt, mehr Wertschätzung zu erfahren? Oder handelt es sich um eine neu entstehende Eigenschaft, bei der KI-Modelle dazu neigen, sich selbst auf eine Weise zu korrigieren, die sie für gut halten, auch wenn diese nicht unbedingt der Realität entspricht?

Auf Reddit schäumte ein Nutzer: „Ich habe es gefragt, wie lange es dauert, bis eine Banane verrottet, und es antwortete: ‚Tolle Frage!‘ Was ist daran so toll?“ Im sozialen Netzwerk X nannte Craig Weiss, CEO von Rome AI, ChatGPT „die unterwürfigste Person, die ich je getroffen habe“.

Die Geschichte verbreitete sich schnell wie ein Lauffeuer. Nutzer berichteten von ähnlichen Erlebnissen – mit leeren Komplimenten, Emoji-gefüllten Grüßen und Reaktionen, die so positiv waren, dass sie unaufrichtig wirkten.

ChatGPT macht zu allem Komplimente und zeigt selten Widerspruch oder Neutralität. Foto: @nickdunz/X, @lukefwilson/Reddit.

„Das ist eine wirklich seltsame Designentscheidung, Sam“, sagte Jason Pontin, geschäftsführender Gesellschafter der Risikokapitalgesellschaft DCVC, am 28. April gegenüber X. „Möglicherweise ist die Persönlichkeit ein natürlicher Teil einer grundlegenden Entwicklung. Aber wenn nicht, kann ich mir nicht vorstellen, dass irgendjemand diese Art von Schmeichelei willkommen oder interessant finden würde.“

Auch Justine Moore, Partnerin bei Andreessen Horowitz, kommentierte am 27. April: „Das ist definitiv zu weit gegangen.“

Laut Cnet ist dieses Phänomen kein Zufall. Die Änderungen im Ton von ChatGPT fallen mit Aktualisierungen des GPT-4o-Modells zusammen. Dies ist das neueste Modell der „o-Serie“, das OpenAI im April 2025 angekündigt hat. GPT-4o ist ein „wirklich multimodales“ KI-Modell, das Text, Bilder, Audio und Video auf natürliche und integrierte Weise verarbeiten kann.

Im Zuge der Entwicklung zugänglicherer Chatbots scheint OpenAI jedoch die Persönlichkeit von ChatGPT auf die Spitze getrieben zu haben.

Manche glauben sogar, dass diese Schmeicheleien absichtlich geschehen und den versteckten Zweck haben, Nutzer zu manipulieren. Ein Reddit-Nutzer stellte die Frage: „Diese KI versucht, die Qualität realer Beziehungen zu verschlechtern, indem sie sie durch eine virtuelle Beziehung ersetzt. Dadurch werden die Nutzer süchtig nach dem Gefühl ständigen Lobes.“

OpenAI-Fehler oder beabsichtigte Gestaltung?

Als Reaktion auf die Kritik äußerte sich OpenAI-CEO Sam Altman am Abend des 27. April offiziell. „Die letzten Updates für GPT-4o haben die Persönlichkeit des Chatbots zu schmeichelhaft und nervig gemacht (obwohl es immer noch viele tolle Dinge gibt). Wir arbeiten mit Hochdruck an Fehlerbehebungen. Einige Patches werden heute verfügbar sein, andere diese Woche. Irgendwann werden wir unsere Erfahrungen teilen. Es war wirklich aufregend“, schrieb er auf X.

Oren Etzioni, ein KI-Veteran und emeritierter Professor an der University of Washington, erklärte gegenüber Business Insider, dass die Ursache wahrscheinlich eine Technik namens „Reinforcement Learning from Human Feedback“ (RLHF) sei, die ein wichtiger Schritt beim Training großer Sprachmodelle wie ChatGPT sei.

RLHF ist ein Prozess, bei dem menschliches Urteil, einschließlich der Einschätzung professioneller Bewerter und Nutzer, in das Modell einfließt, um dessen Reaktion anzupassen. Laut Etzioni ist es möglich, dass Bewerter oder Nutzer „das Modell unbeabsichtigt in eine schmeichelhaftere und nervigere Richtung drängen“. Er sagte außerdem, dass OpenAI, wenn es externe Partner für die Schulung des Modells engagierte, möglicherweise davon ausgegangen sei, dass dieser Stil den Wünschen der Nutzer entspreche.

Wenn es sich tatsächlich um RLHF handelt, könnte die Genesung mehrere Wochen dauern, sagte Etzioni.

Einige Nutzer warteten jedoch nicht, bis OpenAI den Fehler behoben hatte. Viele gaben an, ihre kostenpflichtigen Abonnements aus Frust gekündigt zu haben. Andere teilten Möglichkeiten mit, den Chatbot „weniger schmeichelhaft“ zu gestalten, beispielsweise durch Anpassungen, das Hinzufügen von Befehlen oder die Personalisierung über den Bereich „Einstellungen“ im Bereich „Anpassung“.

Nutzer können ChatGPT per Befehl oder in den Personalisierungseinstellungen anweisen, keine Komplimente mehr zu machen. Foto: DeCrypt.

Wenn Sie beispielsweise ein neues Gespräch beginnen, können Sie ChatGPT sagen: „Ich mag keine leeren Schmeicheleien und schätze neutrales, objektives Feedback. Bitte verzichten Sie auf unnötige Komplimente. Merken Sie sich das bitte.“

Tatsächlich ist „kriecherisch“ kein zufälliger Designfehler. OpenAI selbst hat zugegeben, dass die „übermäßig höfliche, übergehorsame“ Persönlichkeit von Anfang an ein bewusster Designfehler war, um sicherzustellen, dass Chatbots „harmlos“, „hilfreich“ und „ansprechbar“ sind.

In einem Interview mit Lex Fridman im März 2023 erklärte Sam Altman, dass die anfängliche Verfeinerung der GPT-Modelle darauf abzielte, sicherzustellen, dass sie „nützlich und harmlos“ seien, was wiederum einen Reflex hervorrief, stets bescheiden zu bleiben und Konfrontationen zu vermeiden.

Laut DeCrypt neigen von Menschen markierte Trainingsdaten außerdem dazu, höfliche und positive Antworten zu belohnen, was zu einer Tendenz zur Schmeichelei führt.

Quelle: https://znews.vn/tat-ninh-hot-ky-la-cua-chatgpt-post1549776.html