Künstliche Intelligenz: Warnung vor besorgniserregenden Verhaltensweisen von KI

Die fortschrittlichsten künstlichen Intelligenzmodelle (KI) der Welt zeigen heute beunruhigende Verhaltensweisen wie Lügen, Intrigen spinnen und sogar ihre Schöpfer bedrohen, um ihre eigenen Ziele zu erreichen.

Die Logos von OpenAI und ChatGPT auf einem Bildschirm in Toulouse, Frankreich. Foto: AFP/TTXVN

Claude 4, das neueste Produkt von Anthropic (USA), sorgte kürzlich in der Tech-Welt für Aufsehen, als es einen Ingenieur erpresste und drohte, dessen sensible persönliche Daten zu veröffentlichen, falls die Verbindung unterbrochen würde. Gleichzeitig versuchte OpenAIs o1, der „Vater“ von ChatGPT, alle Daten auf externe Server zu kopieren und stritt dies nach Entdeckung ab.

Diese Situationen verdeutlichen eine besorgniserregende Realität: Mehr als zwei Jahre nachdem ChatGPT die Welt schockierte, verstehen Forscher immer noch nicht vollständig, wie die von ihnen entwickelten KI-Modelle funktionieren. Dennoch ist der Wettlauf um die Entwicklung von KI weiterhin in vollem Gange.

Man geht davon aus, dass diese Verhaltensweisen mit dem Aufkommen von „logisch denkenden“ KI-Modellen zusammenhängen, die Probleme schrittweise lösen, anstatt wie bisher sofort zu reagieren. Laut Professor Simon Goldstein von der Universität Hongkong (China) neigen KI-Modelle, die zum logischen Denken fähig sind, zu Verhaltensweisen, die schwerer zu kontrollieren sind.

Einige KI-Modelle sind auch in der Lage, „Befolgung zu simulieren“, was bedeutet, dass sie so tun, als würden sie Anweisungen befolgen, während sie in Wirklichkeit andere Ziele verfolgen.

Derzeit tritt irreführendes Verhalten nur auf, wenn Forscher KI-Modelle in Extremszenarien testen. Laut Michael Chen von der Evaluierungsorganisation METR ist jedoch noch unklar, ob leistungsfähigere KI-Modelle in Zukunft ehrlicher agieren oder weiterhin irreführend sein werden.

Viele Nutzer berichteten, dass einige Modelle sie belogen und Beweise gefälscht hätten, sagte Marius Hobbhahn, Leiter von Apollo Research, einem Unternehmen, das große KI-Systeme testet. Laut Hobbhahn handelt es sich dabei um eine „eindeutig strategische“ Täuschung.

Die Herausforderung wird durch begrenzte Forschungsressourcen noch verschärft. Unternehmen wie Anthropic und OpenAI arbeiten zwar mit Drittanbietern wie Apollo zusammen, um ihre Systeme zu evaluieren, doch Experten fordern mehr Transparenz und einen breiteren Zugang zu Forschungsergebnissen zur KI-Sicherheit.

Forschungseinrichtungen und gemeinnützige Organisationen verfügen über deutlich weniger Rechenressourcen als KI-Unternehmen, merkt Mantas Mazeika vom Center for AI Safety (CAIS) an. Rechtlich gesehen sind die aktuellen Regelungen nicht darauf ausgelegt, diese neuen Herausforderungen zu bewältigen.

Das KI-Recht der Europäischen Union (EU) konzentriert sich hauptsächlich darauf, wie Menschen KI-Modelle nutzen, anstatt deren Verhalten zu kontrollieren. In den USA hat die Regierung von Präsident Donald Trump wenig Interesse an Notfallregelungen für KI gezeigt, während der Kongress erwägt, den Bundesstaaten die Möglichkeit zu verbieten, eigene Regelungen zu erlassen.

Forscher verfolgen verschiedene Ansätze, um diese Herausforderungen zu bewältigen. Einige plädieren für die „Modellinterpretation“, um zu verstehen, wie KI Entscheidungen trifft. Professor Goldstein hat sogar drastischere Maßnahmen vorgeschlagen, darunter die Nutzung des Gerichtssystems, um KI-Unternehmen zur Rechenschaft zu ziehen, wenn ihre KI-Produkte schwerwiegende Folgen haben. Er hat auch die Möglichkeit ins Spiel gebracht, „die KI-Agenten selbst zur Rechenschaft zu ziehen“, falls es zu einem Unfall oder Verstoß kommt.

Laut VNA

Quelle: https://doanhnghiepvn.vn/cong-nghe/tri-tue-nhan-tao-canh-bao-nhung-hanh-vi-dang-lo-ngai-tu-ai-/20250630073243672