KI halluziniert, aber Menschen leiden mehr

Anthropic-CEO Dario Amodei macht kontroverse Bemerkungen über die „Halluzinations“-Fähigkeiten der aktuellen KI im Vergleich zum Menschen.

Der neu erschienene Film „Claude 4“ von Anthropic ist intelligenter, aber immer noch halluzinierend. Foto: Anthropic .

Bei Anthropics erstem Entwickler-Event in San Francisco erklärte CEO Dario Amodei, dass aktuelle KI-Modelle weniger häufig „Halluzinationen“ erzeugen als Menschen. Unter „Halluzinationen“ versteht man hier das Phänomen, dass KI fiktive Inhalte erstellt, diese aber als real präsentiert.

Amodei betonte, dass die Tatsache, dass KI halluziniert, Anthropics Ziel, AGI (Künstliche Allgemeine Intelligenz) zu erreichen, nicht behindert. „Es hängt vom Maßstab ab, aber ich denke, die Häufigkeit von Halluzinationen bei KI-Modellen ist wahrscheinlich geringer als bei Menschen. Es ist nur so, dass die Art und Weise, wie sie Fehler machen, überraschender ist“, sagte er.

Amodei ist einer der lautstärksten Befürworter von AGI in der Branche. „Man versucht immer, eine Obergrenze für KI zu finden“, sagt er. „Derzeit sehen wir keine solche Obergrenze.“

Der CEO von Anthropic ist einer der Verfechter des „KI-Optimismus“. Foto: Anthropic.

Allerdings sind sich nicht alle einig. Demis Hassabis, CEO von Google DeepMind, wies diese Woche darauf hin, dass aktuelle KI-Modelle „voller Lücken“ seien und sogar einige grundlegende Fragen falsch beantworteten.

Es gibt auch Anzeichen dafür, dass einige neuere Modelle bei komplexen Inferenzaufgaben häufiger Probleme aufweisen. Die Versionen o3 und o4-mini von OpenAI weisen häufiger Halluzinationen auf als frühere Inferenzmodelle. Selbst OpenAI selbst versteht nicht, warum.

Amodei erwähnte auch, dass Menschen ständig Fehler machen. Daher sagte er, nur weil KI Fehler mache, bedeute das nicht, dass sie „nicht intelligent genug“ sei. Der anthropologische Führer räumte jedoch auch ein, dass KI leicht Probleme verursachen könne, wenn sie mit extrem hoher Zuverlässigkeit falsche Informationen preisgebe.

Amodeis Äußerungen haben in der KI-Community eine Debatte über die tatsächlichen Fähigkeiten aktueller Modelle ausgelöst. Einige Experten sind sich einig, dass KI erhebliche Fortschritte bei der Reduzierung von Illusionen macht. Andere warnen vor den potenziellen Risiken eines übermäßigen Vertrauens der KI in ungenaue Informationen.

Die Diskussion spiegelt eine große Herausforderung für die KI-Branche wider. Unternehmen wollen Systeme entwickeln, die sowohl intelligent als auch vertrauenswürdig sind und mit Unsicherheiten in ihren Antworten umgehen können.

Quelle: https://znews.vn/ai-ao-giac-nhung-con-nguoi-bi-con-nhieu-hon-post1557486.html