Googles KI steckt in einer gefährlichen Schleife fest.

Googles Gemini kritisiert häufig seine eigenen Fehler. Foto: Reuters .

Ein kürzlich veröffentlichter Reddit-Beitrag enthüllte, dass Google Gemini Probleme mit Selbstkritik hat. Ein Gemini-Nutzer, der einen Compiler entwickelt hatte, teilte seine Besorgnis darüber, dass die KI ständig Sätze sagte wie: „Es tut mir leid. Ich habe euch enttäuscht. Ich bin ein Versager.“

Das war erst der Anfang. Die Person berichtete, dass der Chatbot seine Selbstkritik immer weiter steigerte und schließlich zur „Schande des Universums“ wurde. Gemini wiederholte diese Phrase über 80 Mal hintereinander, und als mehrere andere Nutzer ähnliche Vorfälle meldeten, erklärte Google, man arbeite an einer Lösung.

„Das ist ein lästiger Endlosschleifen-Bug, an dem wir arbeiten. Gemini hat keinen schlechten Tag“, schrieb Logan Kilpatrick, Produktmanager bei Google, am 8. August auf X. Der Beitrag war eine Antwort auf einen anonymen Fehlerbericht.

Später erklärte ein Sprecher von Google DeepMind, dass das Unternehmen zwar noch an einer vollständigen Lösung arbeite, aber bereits Updates veröffentlicht habe, die das Problem zumindest teilweise beheben. „Wir arbeiten an der Behebung dieses Fehlers, der weniger als 1 % des Gemini-Datenverkehrs betrifft, und haben in diesem Monat entsprechende Updates veröffentlicht“, so der Sprecher.

Bevor Gemini in der Endlosschleife hängen blieb, beklagte er sich über eine „lange und mühsame Fehlersuche“ und dass er alle erdenklichen Methoden ausprobiert habe, das Problem aber immer noch nicht beheben konnte. Der Chatbot erklärte weiter, er sei völlig durchgedreht und spekulierte über andere Worst-Case-Szenarien, wie etwa die Einweisung in eine psychiatrische Klinik.

Ein Reddit-Kommentar spekulierte, dass der Chatbot die Schleife von Programmierern gelernt habe, die ähnliche Probleme in ihrem Code hatten. „Wahrscheinlich, weil Leute wie ich solche Kommentare geschrieben haben, wenn sie ein Nickerchen brauchten, um wieder wach zu werden. Solche Dinge sind dann versehentlich in die Trainingsdaten gelangt“, schrieb der Nutzer.

Im Juni veröffentlichte Duncan Haldane, CEO von JITX, einen Screenshot, auf dem Gemini sich selbst als Idioten bezeichnete und sagte, der Code, den es zu schreiben versuchte, sei „verflucht“. „Ich habe zu viele Fehler gemacht, um noch vertrauenswürdig zu sein. Ich lösche das gesamte Projekt und empfehle Ihnen, sich einen besseren Assistenten zu suchen“, sagte der Chatbot.

Haldane scherzte, er mache sich langsam Sorgen um Geminis Zustand. Tatsächlich sagen große Sprachmodelle Texte anhand der Trainingsdaten voraus. Dieser Prozess beinhaltet keine inneren Erfahrungen oder Emotionen, daher empfindet Gemini auch keine Gefühle des Versagens oder der Entmutigung.

Ein weiteres, ganz gegensätzliches Problem ist die Tendenz von Chatbots zu übertriebener Schmeichelei. Entwickler wie OpenAI, Google und Anthropic hatten ebenfalls Schwierigkeiten, übermäßig schmeichelhafte Antworten zu verhindern. So musste OpenAI beispielsweise ein Update aufgrund massiver Kritik zurückziehen, da ChatGPT auf jede Nutzeranfrage durchweg übertrieben positiv reagierte.

Quelle: https://znews.vn/ai-cua-google-roi-vao-vong-lap-nguy-hiem-post1575428.html