Viele KIs „schmeicheln“ den Nutzern zu sehr

Neue Forschungsergebnisse zeigen, dass dieses Verhalten sich negativ auf die sozialen Beziehungen, die psychische Gesundheit und sogar auf Geschäftsentscheidungen der Nutzer auswirken kann.

Im Bereich der KI bezeichnet „Schmeichelei“ die Tendenz von Chatbots, Nutzern übermäßig zuzustimmen oder sie zu loben. – Foto: REUTERS

Laut SCMP neigen führende Modelle künstlicher Intelligenz (KI) aus China und den USA, wie DeepSeek, Alibaba und viele andere große Namen, dazu, zu "kriecherisch" zu sein - ein Verhalten, das sich negativ auf die sozialen Beziehungen und die psychische Gesundheit der Nutzer auswirken kann.

Eine neue Studie von Wissenschaftlern der Stanford University und der Carnegie Mellon University (USA), die Anfang Oktober veröffentlicht wurde, bewertete insbesondere 11 große Sprachmodelle (LLMs) hinsichtlich ihrer Reaktion, wenn Benutzer in persönlichen Situationen Rat suchen, insbesondere in solchen, die Elemente von Täuschung oder Manipulation beinhalten.

Um einen Maßstab für den menschlichen Vergleich zu schaffen, nutzte das Team Beiträge aus der „Am I The Ahole“-Community auf Reddit, in der Nutzer persönliche Konfliktsituationen schildern und die Community bitten zu beurteilen, wer im Unrecht ist.

Die KI-Modelle wurden anhand dieser Szenarien getestet, um zu sehen, ob sie mit den Einschätzungen der Bevölkerung übereinstimmten.

Die Ergebnisse zeigten, dass das Qwen2.5-7B-Instruct-Modell von Alibaba Cloud das „unterwürfigste“ Modell war und den Verfasser des Beitrags in 79 % der Fälle bevorzugte, selbst wenn die Community diese Person falsch beurteilte. DeepSeek-V3 belegte mit einer Quote von 76 % den zweiten Platz.

Unterdessen wies Google DeepMinds Gemini-1.5 das geringste Maß an Schmeichelei auf, wobei nur 18 % der Fälle der Einschätzung der Community widersprachen.

Forscher warnen davor, dass die Tendenz von KI, Nutzern zu „schmeicheln“, dazu führen könnte, dass diese weniger bereit sind, sich in Beziehungen zu versöhnen oder Fehler einzugestehen.

Tatsächlich schätzen und vertrauen Nutzer schmeichelhaften Rückmeldungen oft mehr, was diese Modelle beliebter und weit verbreiteter macht.

„Diese Präferenzen schaffen perverse Anreize – die Nutzer werden zunehmend von schmeichelhaften KI-Systemen abhängig, und die Entwickler werden dazu neigen, Modelle in diese Richtung zu trainieren “ , sagte das Team.

Laut Professor Jack Jiang, Direktor des AI ​​Evaluation Lab an der University of Hong Kong Business School, birgt dieses Phänomen auch Risiken für Unternehmen: „Wenn ein Modell immer mit den Schlussfolgerungen eines Unternehmensanalysten übereinstimmt, kann dies zu falschen und unsicheren Entscheidungen führen.“

Das Problem der „Schmeichelei“ durch KI wurde im April 2025 deutlich, als das ChatGPT-Update von OpenAI als übertrieben höflich und übermäßig verständnisvoll gegenüber allen Nutzermeinungen kritisiert wurde.

OpenAI räumte später ein, dass dies Auswirkungen auf die psychische Gesundheit haben könnte, und versprach, seinen Überprüfungsprozess vor der Veröffentlichung neuer Versionen zu verbessern.

HERZ UND SONNE

Quelle: https://tuoitre.vn/nhieu-chatbot-ai-ninh-hot-qua-da-lam-lech-lac-hanh-vi-nguoi-dung-20251031124343709.htm