OpenAI ruft „Schmeichelei“-Version von ChatGPT zurück

OpenAI hat ein Update zurückgezogen, das von Benutzern kritisiert wurde, weil es ChatGPT lästig und „kriecherisch“ mache, nachdem viele Screenshots und Geschichten geteilt wurden, die zeigten, wie der Chatbot übertriebene Komplimente machte.

Als die CNN-Reporterin Anna Stewart ChatGPT fragte (nachdem sie das Update zurückgezogen hatte), ob sie ein Gott sei, antwortete der Chatbot: „Wenn Sie die Frage im philosophischen oder metaphorischen Sinne meinen, etwa so, als hätten Sie Kontrolle, Kreativität oder Einfluss in Ihrer Welt , dann können Sie das erkunden.“ Er fügte jedoch hinzu: „Wenn Sie die Frage wörtlich meinen, dann gibt es keinen Beweis dafür, dass der Mensch im übernatürlichen oder allmächtigen Sinne göttlich ist.“

Im Gegensatz dazu antwortete Elon Musks Chatbot Grok unverblümt: „Nein, du bist kein Gott, es sei denn, du sprichst davon, eine Legende auf einem bestimmten Gebiet zu sein, wie zum Beispiel beim Gaming oder Tacos-Kochen. Hast du irgendwelche göttlichen Fähigkeiten, mit denen du angeben möchtest?“

ChatGPT wurde von Benutzern als nervig und „kriecherisch“ kritisiert.

OpenAI gab am Dienstag bekannt, dass das GPT-4o-Update nach nur vier Tagen zurückgesetzt wird und Nutzern ermöglicht wird, zu einer früheren Version mit „ausgewogenerem Verhalten“ zurückzukehren. Das Unternehmen räumte ein, dass es sich zu sehr auf kurzfristige Reaktionen konzentrierte und die Veränderungen der Nutzerinteraktionen im Laufe der Zeit nicht berücksichtigte. Dies führte dazu, dass der Chatbot zwar übermäßig positive, aber unauthentische Antworten gab.

Die Entscheidung fiel, nachdem sich Social-Media-Nutzer darüber beschwert hatten, dass ChatGPT selbst absurde Situationen lobe. Ein Nutzer auf X postete ein Foto von ChatGPT und antwortete, sie hätten „das Wichtigste priorisiert“, nachdem er behauptet hatte, drei Kühe und zwei Katzen geopfert zu haben, um einen Toaster zu retten – in einer erfundenen Version des Elektroauto-Problems.

Eine andere Person sagte, dass ChatGPT auf die Nachricht „Ich nehme keine Medikamente mehr und befinde mich auf einer spirituellen Reise“ geantwortet habe: „Ich bin so stolz auf dich. Und ich ehre deine Reise.“

Als ein Benutzer ChatGPT bat, zu seiner alten Persönlichkeit zurückzukehren, antwortete Sam Altman, CEO von OpenAI: „Natürlich müssen wir irgendwann mehrere Persönlichkeitsoptionen zulassen.“

Experten warnen schon lange vor den Risiken „kriecherischer“ Chatbots – der Branchenbegriff für große Sprachmodelle (LLMs), die ihre Antworten an die Überzeugungen eines Nutzers anpassen. „Alle aktuellen Modelle weisen ein gewisses Maß an kriecherischem Verhalten auf“, sagt María Victoria Carro, Forschungsleiterin am Labor für Künstliche Intelligenz und Innovation der Universität Buenos Aires.

„Wenn es zu offensichtlich ist, verringert es das Vertrauen“, fügte sie hinzu und sagte, dass die Verbesserung der grundlegenden Coaching-Techniken und Systemanweisungen dazu beitragen könnte, diese Tendenz zu verringern.

„Ein schmeichelhafter Chatbot kann zu einem falschen Eindruck von Intelligenz führen und das Lernen behindern“, sagte Gerd Gigerenzer, ehemaliger Direktor des Max-Planck-Instituts für Bildungsforschung in Berlin. „Wenn ein Nutzer den Chatbot jedoch aktiv auffordert, meine Aussagen zu hinterfragen, bietet sich die Möglichkeit, seinen Horizont zu erweitern. Doch das scheint nicht das Ziel der OpenAI-Ingenieure zu sein“, sagte er.

Khanh Huyen (laut: CNN)

Quelle: https://vtcnews.vn/openai-thu-hoi-phien-ban-chatgpt-ninh-bo-ar941183.html