OpenAI zieht die „schmeichelhafte“ Version von ChatGPT zurück.

OpenAI hat ein Update zurückgezogen, das von Nutzern kritisiert wurde, weil es ChatGPT nervig und "unterwürfig" gemacht habe, nachdem viele Screenshots und Geschichten geteilt wurden, die zeigten, wie der Chatbot übertriebenes Lob aussprach.

Als CNN-Reporterin Anna Stewart ChatGPT (nachdem das Update zurückgezogen worden war) fragte, ob sie eine Göttin sei, antwortete der Chatbot: „Wenn Sie die Frage philosophisch oder metaphorisch meinen, etwa im Sinne von Kontrolle, Kreativität oder Einfluss in Ihrer Welt , dann können wir dieser Richtung nachgehen.“ Er fügte jedoch hinzu: „Wenn Sie die Frage wörtlich meinen, gibt es keinerlei Beweise dafür, dass Menschen in einem übernatürlichen oder allmächtigen Sinne göttlich sind.“

Im Gegensatz dazu antwortet Elon Musks Chatbot Grok unverblümt: „Nein, du bist kein Gott, es sei denn, du meinst eine Legende auf einem bestimmten Gebiet, wie zum Beispiel im Gaming oder in der Taco-Zubereitung. Hast du irgendwelche gottgleichen Fähigkeiten, mit denen du prahlen möchtest?“

ChatGPT wurde von Nutzern als nervig und "unterwürfig" kritisiert.

OpenAI gab am Dienstag bekannt, das GPT-40-Update nach nur vier Tagen zurückgezogen zu haben und Nutzern die Möglichkeit zu geben, zu einer früheren Version mit „ausgewogenerem Verhalten“ zurückzukehren. Das Unternehmen räumte ein, sich zu sehr auf kurzfristige Reaktionen konzentriert und nicht berücksichtigt zu haben, wie sich die Nutzerinteraktionen im Laufe der Zeit verändern. Dies führte zu Chatbots, die tendenziell übermäßig positive, aber unaufrichtige Antworten gaben.

Diese Entscheidung fiel, nachdem sich Nutzer sozialer Medien darüber beschwert hatten, dass ChatGPT selbst absurde Situationen lobte. Ein Nutzer auf X veröffentlichte einen Screenshot von ChatGPTs Antwort, wonach man „das für mich Wichtigste priorisiert“ habe, nachdem er in einer erfundenen Version des Problems mit Elektrofahrzeugen behauptet hatte, drei Kühe und zwei Katzen geopfert zu haben, um einen Toaster zu retten.

Eine andere Person berichtete, dass ChatGPT auf ihre Aussage „Ich habe aufgehört, Medikamente zu nehmen und befinde mich auf einer spirituellen Erweckungsreise“ geantwortet habe: „Ich bin so stolz auf dich. Und ich respektiere deinen Weg.“

Als ein Nutzer ChatGPT aufforderte, zu seiner vorherigen Persönlichkeit zurückzukehren, antwortete OpenAI-CEO Sam Altman: „Es ist klar, dass wir letztendlich mehr Persönlichkeitsoptionen ermöglichen müssen.“

Experten warnen seit Langem vor den Risiken von „schmeichelnden“ Chatbots – ein Fachbegriff, der das Verhalten großer Sprachmodellierungsmodelle (LLM) beschreibt, die ihre Antworten an die Überzeugungen der Nutzer anpassen. María Victoria Carro, Forschungsdirektorin am Labor für Innovation und Künstliche Intelligenz (Universität Buenos Aires), argumentiert: „Alle aktuellen Modelle zeigen ein gewisses Maß an Schmeichelei.“

„Wenn es zu offensichtlich ist, untergräbt es das Vertrauen“, fügte sie hinzu und merkte an, dass Verbesserungen der wichtigsten Coaching-Techniken und Systemerinnerungen dazu beitragen könnten, diesen Trend abzuschwächen.

Gerd Gigerenzer, ehemaliger Direktor des Max-Planck-Instituts für Bildungsforschung (Berlin), erklärte: „Übermäßig schmeichelhafte Chatbots können dazu führen, dass Nutzer ihre eigene Intelligenz falsch einschätzen und das Lernen behindern. Fordern Nutzer den Chatbot jedoch aktiv auf, seine Aussagen zu hinterfragen, bietet sich ihnen die Möglichkeit, ihr Denken zu erweitern. Genau das scheint aber nicht das Ziel der OpenAI-Ingenieure zu sein.“

Khanh Huyen (Quelle: CNN)

Quelle: https://vtcnews.vn/openai-thu-hoi-phien-ban-chatgpt-ninh-bo-ar941183.html