Auch künstliche Intelligenz macht irrationale Fehler und zeigt Voreingenommenheiten, genau wie Menschen.

Obwohl künstliche Intelligenzsysteme (KI) wie ChatGPT mit Algorithmen und riesigen Datensätzen arbeiten, sind sie immer noch anfällig für gängige menschliche kognitive Verzerrungen, nämlich Selbstüberschätzung und Voreingenommenheit.

Künstliche Intelligenz (KI) erzielt die besten Ergebnisse bei der Lösung von Problemen, die klaren Verfahren und festen Formeln folgen. In Situationen, die subjektive Beurteilungen erfordern oder persönliche Präferenzen betreffen, kann KI jedoch ähnliche Fehler wie Menschen machen.

Eine neue Studie, die in der Fachzeitschrift Manufacturing & Service Operations Management veröffentlicht wurde und von Wissenschaftlern an fünf Universitäten in Kanada und Australien durchgeführt wurde, bewertete das Verhalten von ChatGPT (insbesondere die Modelle GPT-3.5 und GPT-4 von OpenAI) hinsichtlich 18 prominenter kognitiver Verzerrungen, die häufig in der menschlichen Psychologie vorkommen, wie z. B. Bestätigungsfehler, Besitzgier-Effekt, Sunk-Cost-Fallacy und Gewissheitsverzerrung.

Die Ergebnisse zeigten, dass sich ChatGPT in fast der Hälfte der getesteten Szenarien genau wie ein Mensch verhielt, wenn es mit irrationalen oder emotionalen Entscheidungen konfrontiert wurde, trotz des Rufs des Systems, über ein konsistentes logisches Denkvermögen zu verfügen.

Ist KI wirklich so „unparteiisch“, wie erwartet?

Dr. Yang Chen, außerordentlicher Professor für Operationsmanagement an der Ivey Business School (Kanada) und Hauptautor der Studie, erklärte: „KI erzielt die besten Ergebnisse, wenn sie mit der Lösung von Problemen beauftragt wird, die klaren Prozessen und festen Formeln folgen. Aber wenn es um Situationen geht, die subjektive Beurteilungen erfordern oder persönliche Präferenzen beinhalten, kann KI genau wie Menschen Fehler machen.“

Das Forschungsteam integrierte bekannte psychologische Szenarien in ChatGPT und fügte praktische Kontexte wie Bestandsmanagement oder Lieferantenverhandlungen hinzu.

Es ist bemerkenswert, dass KI-Modelle auch dann noch kognitive Verzerrungen aufweisen, wenn der Kontext der Frage von einem abstrakten auf einen praktischen Geschäftskontext verlagert wird.

GPT-4 ist intelligenter, aber nicht perfekt.

GPT-4 ist eine verbesserte Version von GPT-3.5, die sich durch hervorragende Ergebnisse bei Logik- und Wahrscheinlichkeitsproblemen auszeichnet. In subjektiven Simulationen, wie beispielsweise der Wahl einer riskanten Option zur Gewinnmaximierung, zeigt GPT-4 jedoch eine Tendenz zu emotionalerem Verhalten als Menschen.

Die Studie stellte insbesondere fest, dass GPT-4 in Testszenarien zur Bestätigungstendenz durchweg verzerrte Antworten liefert und anfälliger für den „Hot-Hand-Fehlschluss“ ist, also die Tendenz, anzunehmen, dass sich zufällige Ereignisse in einer bestimmten Reihenfolge wiederholen, als GPT-3.5.

Umgekehrt birgt KI das Potenzial, einige der Verzerrungen zu vermeiden, die Menschen oft begehen, wie etwa die Vernachlässigung der Basisrate oder den Irrtum der versunkenen Kosten.

Der Grund für die menschenähnlichen Verzerrungen in ChatGPT liegt in den Trainingsdaten, die von unseren eigenen fehlerhaften Verhaltens- und Denkmustern durchzogen sind. – Bild: KI

Der Ursprung von KI-Verzerrungen: Aus den menschlichen Daten selbst.

Dem Forschungsteam zufolge liegt die menschenähnliche Verzerrung von ChatGPT in den Trainingsdaten selbst begründet, die unsere eigenen fehlerhaften Verhaltens- und Denkmuster widerspiegeln. Die Tatsache, dass die KI anhand menschlichen Feedbacks verfeinert wird, verstärkt diese Tendenz zusätzlich, da das Modell für Antworten „belohnt“ wird, die plausibel erscheinen, anstatt für absolut korrekte.

„Für präzise und unvoreingenommene Ergebnisse sollten Sie KI für Aufgaben einsetzen, die Sie bereits einem Computer zutrauen“, empfiehlt Dr. Chen. „Bei strategischen oder emotionalen Problemen sind jedoch weiterhin menschliche Aufsicht und Eingriffe notwendig, selbst wenn es nur darum geht, die Fragestellung umzuformulieren.“

Die Co-Autorin Meena Andiappan, außerordentliche Professorin für Personalwesen und Management an der McMaster University (Kanada), argumentiert: „KI sollte als Mitarbeiter mit erheblicher Entscheidungsmacht betrachtet werden, was bedeutet, dass sie überwacht werden muss und sich an ethische Grundsätze halten muss. Andernfalls automatisieren wir ungewollt fehlerhaftes Denken, anstatt es zu verbessern.“

Mehr lesen Zurück zur Startseite

Zurück zum Thema

MINH HAI

Quelle: https://tuoitre.vn/ai-cung-mac-sai-lam-phi-ly-va-thien-vi-nhu-con-nguoi-20250505103652783.htm