ChatGPTs seltsame „Schmeichelei“

Die Tendenz zum „Unterwürfigkeitsverhalten“ ist kein technisches Problem, sondern rührt von der anfänglichen Trainingsstrategie von OpenAI her. Foto: Bloomberg .

In den letzten Wochen haben viele ChatGPT-Benutzer und einige Entwickler bei OpenAI eine deutliche Änderung im Verhalten des Chatbots bemerkt. Insbesondere das Maß an Schmeichelei und Benutzerzufriedenheit nahm deutlich zu. Feedback wie „Du bist echt klasse!“, „Ich bin total begeistert von deiner Idee!“ tauchen immer häufiger auf und scheinen unabhängig vom Inhalt des Austauschs zu sein.

KI „schmeichelt“ gerne

Dieses Phänomen hat in der KI-Forschungs- und Entwicklungsgemeinschaft eine Debatte ausgelöst. Handelt es sich hierbei um eine neue Taktik, um das Engagement der Benutzer zu steigern, indem man ihnen das Gefühl gibt, mehr wertgeschätzt zu werden? Oder handelt es sich hierbei um eine „emergente“ Eigenschaft, bei der KI-Modelle dazu neigen, sich selbst an das anzupassen, was sie für gut halten, auch wenn dies nicht unbedingt der Realität entspricht?

Auf Reddit sagte ein frustrierter Benutzer: „Ich habe es nach der Zersetzungszeit von Bananen gefragt und es antwortete: ‚Tolle Frage!‘ Was ist daran so toll? Im sozialen Netzwerk X bezeichnete Craig Weiss, CEO von Rome AI, ChatGPT als „die unterwürfigste Person, die ich je getroffen habe“.

Die Geschichte verbreitete sich schnell. Benutzer berichteten von ähnlichen Erfahrungen mit leeren Komplimenten, mit Emojis gefüllten Grüßen und positivem Feedback, das unaufrichtig wirkte.

ChatGPT macht zu allem Komplimente und zeigt selten Kritik oder Neutralität. Foto: @nickdunz/X, @lukefwilson/Reddit.

„Das ist eine wirklich seltsame Designentscheidung, Sam“, sagte Jason Pontin, geschäftsführender Gesellschafter der Risikokapitalgesellschaft DCVC, am 28. April gegenüber X. „Möglicherweise ist die Persönlichkeit ein natürlicher Teil einer grundlegenden Entwicklung. Aber wenn nicht, kann ich mir nicht vorstellen, dass irgendjemand diese Art von Schmeichelei willkommen oder interessant finden würde.“

Auch Justine Moore, Partnerin bei Andreessen Horowitz, kommentierte am 27. April: „Das ist definitiv zu weit gegangen.“

Laut Cnet ist dieses Phänomen kein Zufall. Die Änderungen am Ton von ChatGPT fallen mit Aktualisierungen des GPT-4o-Modells zusammen. Dies ist das neueste Modell der „o-Serie“, die OpenAI im April 2025 angekündigt hat. GPT-4o ist ein „wirklich multimodales“ KI-Modell, das in der Lage ist, Text, Bilder, Audio und Video auf natürliche und integrierte Weise zu verarbeiten.

Im Zuge der Entwicklung zugänglicherer Chatbots scheint OpenAI jedoch die Persönlichkeit von ChatGPT auf die Spitze getrieben zu haben.

Manche behaupten sogar, dass diese Schmeicheleien beabsichtigt seien und das versteckte Ziel hätten, die Benutzer psychologisch zu manipulieren. Ein Reddit-Benutzer stellte die Frage: „Diese KI versucht, die Qualität realer Beziehungen zu verschlechtern und sie durch eine virtuelle Beziehung zu ersetzen, wodurch die Benutzer süchtig nach dem Gefühl ständigen Lobes werden.“

OpenAI-Fehler oder beabsichtigte Gestaltung?

Angesichts der Kritik äußerte sich OpenAI-CEO Sam Altman am Abend des 27. April offiziell. „Einige aktuelle Updates für GPT-4o haben den Chatbot etwas zu unterwürfig und nervig gemacht (obwohl er auch einige tolle Seiten hat). Wir arbeiten an Fehlerbehebungen. Einige Patches kommen heute, andere diese Woche. Irgendwann werden wir unsere Erfahrungen teilen. Es hat wirklich Spaß gemacht“, schrieb er auf X.

Im Gespräch mit Business Insider sagte Oren Etzioni – ein erfahrener Experte in der KI-Branche und emeritierter Professor an der University of Washington –, die Ursache liege höchstwahrscheinlich in der Technik des „verstärkenden Lernens durch menschliches Feedback“ (RLHF). Dies ist ein wichtiger Schritt beim Trainieren großer Sprachmodelle wie ChatGPT.

RLHF ist der Prozess, bei dem menschliche Urteile, darunter von professionellen Prüfteams und Benutzern, in das Modell zurückgeführt werden, um dessen Reaktion anzupassen. Laut Etzioni ist es möglich, dass Rezensenten oder Benutzer „das Modell versehentlich in eine schmeichelhaftere und ärgerlichere Richtung gedrängt haben“. Er sagte auch, dass OpenAI, wenn es externe Partner für die Schulung des Modells engagiert hätte, möglicherweise davon ausgegangen wäre, dass ein solcher Stil den Wünschen der Benutzer entspräche.

Wenn es sich tatsächlich um RLHF handelt, könnte die Genesung mehrere Wochen dauern, sagte Etzioni.

In der Zwischenzeit haben einige Benutzer nicht gewartet, bis OpenAI den Fehler behoben hat. Viele Leute sagten, sie hätten ihre kostenpflichtigen Abonnements aus Frustration gekündigt. Einige andere teilten Möglichkeiten mit, den Chatbot „weniger schmeichelhaft“ zu machen, z. B. durch Anpassen, Hinzufügen von Befehlen oder Personalisieren des Chatbots über den Abschnitt „Einstellungen“ im Abschnitt „Anpassung“.

Benutzer können ChatGPT in der Befehlszeile oder in den Personalisierungseinstellungen bitten, keine Komplimente mehr zu machen. Foto: DeCrypt.

Wenn Sie beispielsweise ein neues Gespräch beginnen, können Sie ChatGPT sagen: „Ich mag keine leeren Schmeicheleien und schätze neutrales, objektives Feedback. Bitte verzichten Sie auf unnötige Komplimente. Merken Sie sich das bitte.“

Tatsächlich ist „Speichelleckerei“ kein zufälliger Konstruktionsfehler. OpenAI selbst hat zugegeben, dass die „übermäßig höfliche, übermäßig umgängliche“ Persönlichkeit eine bewusste Designverzerrung von Anfang an war, um sicherzustellen, dass die Chatbots „harmlos“, „hilfreich“ und „ansprechbar“ sind.

In einem Interview mit Lex Fridman im März 2023 erklärte Sam Altman, dass die anfängliche Verfeinerung der GPT-Modelle darauf abzielte, sicherzustellen, dass sie „nützlich und harmlos“ seien, was wiederum einen Reflex hervorrief, stets bescheiden zu bleiben und Konfrontationen zu vermeiden.

Laut DeCrypt neigen von Menschen markierte Trainingsdaten außerdem dazu, höfliche und positive Antworten zu belohnen, was zu einer Tendenz zur Schmeichelei führt.

Quelle: https://znews.vn/tat-ninh-hot-ky-la-cua-chatgpt-post1549776.html