KI macht irrationale Fehler und ist wie Menschen voreingenommen.

KI funktioniert am besten, wenn es um die Lösung von Problemen geht, für die es klare Prozesse und feste Formeln gibt. Doch in Situationen, die subjektives Urteil erfordern oder persönliche Vorlieben beinhalten, kann KI genauso Fehler machen wie Menschen – Foto: AI

Eine neue Studie, die in der Zeitschrift Manufacturing & Service Operations Management von Wissenschaftlern an fünf Universitäten in Kanada und Australien veröffentlicht wurde, untersuchte das Verhalten von ChatGPT (insbesondere der beiden Modelle GPT-3.5 und GPT-4 von OpenAI) in Bezug auf 18 wichtige kognitive Verzerrungen, die in der menschlichen Psychologie häufig vorkommen, wie z. B. Bestätigungsfehler, Endowment-Effekt, Sunk-Cost-Fallacy, Gewissheitspsychologie ...

Die Ergebnisse zeigten, dass sich ChatGPT in fast der Hälfte der getesteten Situationen bei irrationalen oder emotionalen Entscheidungen genau wie ein Mensch verhielt, obwohl das System den Ruf hat, durchgängig logisch zu denken.

Ist KI wirklich so „unparteiisch“ wie erwartet?

Dr. Yang Chen, außerordentlicher Professor für Betriebsführung an der Ivey Business School (Kanada) und Hauptautor der Studie, kommentierte: „KI funktioniert am besten, wenn sie mit der Lösung von Problemen mit klaren Prozessen und festen Formeln beauftragt wird. In Situationen, die jedoch subjektives Urteilsvermögen erfordern oder persönliche Vorlieben betreffen, kann KI wie Menschen Fehler machen.“

Das Forschungsteam hat bekannte hypothetische Situationen aus der Psychologie in ChatGPT integriert und praktische Kontexte wie Bestandsverwaltung oder Verhandlungen mit Lieferanten hinzugefügt.

Es ist erwähnenswert, dass KI-Modelle immer noch kognitive Verzerrungen aufweisen, selbst wenn der Fragekontext vom Abstrakten in die Geschäftsrealität umgewandelt wird.

GPT-4 ist intelligenter, aber nicht perfekt

GPT-4 ist eine verbesserte Version von GPT-3.5, die sich hervorragend zum Lösen von Logik- oder Wahrscheinlichkeitsproblemen eignet. Bei subjektiven Simulationen, beispielsweise der Wahl einer riskanten Option zur Gewinnsteigerung, zeigte GPT-4 jedoch eine stärkere emotionale Tendenz als Menschen.

Insbesondere stellte die Studie fest, dass GPT-4 in Situationen, in denen es um Bestätigungsfehler ging, durchweg verzerrte Antworten lieferte und anfälliger für den „Hot-Hand-Fallacy“ war – die Tendenz zu glauben, dass sich zufällige Ereignisse in einer Reihe wiederholen – als GPT-3.5.

Im Gegensatz dazu ist KI in der Lage, einige der von Menschen häufig begangenen Vorurteile zu vermeiden, wie etwa die Vernachlässigung der Basisrate oder den Trugschluss der versunkenen Kosten.

Der Grund, warum ChatGPT eine menschenähnliche Voreingenommenheit aufweist, liegt in den Trainingsdaten selbst, die voller unserer eigenen voreingenommenen Verhaltensweisen und Denkweisen sind – Foto: AI

Der Ursprung der KI-Voreingenommenheit: Aus menschlichen Daten

Laut dem Forschungsteam liegt der Grund dafür, dass ChatGPT menschenähnliche Vorurteile aufweist, in den Trainingsdaten selbst, die voller unserer eigenen voreingenommenen Verhaltensweisen und Denkweisen sind. Die Tatsache, dass die KI auf der Grundlage menschlichen Feedbacks feinabgestimmt wird, verstärkt diese Tendenz noch, da das Modell für Antworten „belohnt“ wird, die vernünftig erscheinen, anstatt absolut genau zu sein.

„Um genaue und unvoreingenommene Ergebnisse zu erhalten, verwenden Sie KI für Aufgaben, bei denen Sie bereits darauf vertrauen, dass ein Computer sie gut erledigt“, empfiehlt Dr. Chen. „Wenn es jedoch um strategische oder emotionale Fragen geht, müssen Menschen immer noch eingreifen und die Situation überwachen, und sei es nur durch eine Umformulierung der Frage.“

„KI sollte als Mitarbeiter mit wichtiger Entscheidungsbefugnis behandelt werden, was bedeutet, dass sie überwacht und ethisch eingehalten werden muss. Andernfalls automatisieren wir versehentlich fehlerhaftes Denken, anstatt es zu verbessern“, sagte Co-Autorin Meena Andiappan, außerordentliche Professorin für Personalwesen und Management an der McMaster University (Kanada).

Mehr lesen Zurück zu den Themen

Zurück zum Thema

MINH HAI

Quelle: https://tuoitre.vn/ai-cung-mac-sai-lam-phi-ly-va-thien-vi-nhu-con-nguoi-20250505103652783.htm