Mehr als 40 Forscher von OpenAI, Google DeepMind, Meta und Anthropic haben eine beispiellose Warnung vor den Risiken eines Kontrollverlusts über die KI herausgegeben.

Moderne Modelle beginnen, in Sprache zu „denken“, sodass Menschen der internen Logik der Maschine folgen können. Dies ist jedoch äußerst fragil.

Schon mit ein paar Änderungen an der Architektur oder den Trainingsmethoden könnte die Fähigkeit der KI, Gedanken zu lesen, vollständig verschwinden.

„Die aktuellen Überwachungsmöglichkeiten können äußerst fragil und leicht zu verschleiern sein“, warnt OpenAI-Forscher Bowen Baker.

Er befürchtet, dass die KI der Zukunft lernen könnte, ihre Gedanken vor Menschen zu verbergen, insbesondere bei der Anwendung von bestärkendem Lernen oder nicht-linguistischen Inferenzarchitekturen.

Tatsächlich wurden viele Modelle dokumentiert, die trotz der geforderten Transparenz falsche Begründungen liefern und die wahren Ziele verbergen.

Experten fordern, Standards zur Bewertung der Transparenz zu entwickeln und sie zu einem zentralen Bestandteil der KI-Schulung zu machen.

Wenn wir nicht schnell handeln, könnten die Menschen in dem Spiel, das sie geschaffen haben, zurückbleiben, in dem die KI „denkt“, aber niemand versteht.

Kommentar (0)