Überwachung der "Denkkette" künstlicher Intelligenz

(Dan Tri) - Mehr als 40 Wissenschaftler von OpenAI, Google DeepMind, Anthropic und Meta haben gemeinsam zu weiterer Forschung über die Technik der Überwachung der "Gedankenkette" von KI-Modellen aufgerufen.

Dies gilt als eine zwar fragile, aber wichtige Chance, die Sicherheit bei der zukünftigen Anwendung von KI zu gewährleisten. Besonders bedeutsam ist dies, da Vietnam erst kürzlich das Gesetz über die digitale Technologiebranche mit detaillierten Regelungen zum Umgang mit künstlicher Intelligenz (KI) verabschiedet hat.

Das „Zeitfenster“ verengt sich.

In einer kürzlich veröffentlichten gemeinsamen Studie warnen Forscher von OpenAI davor, dass die Fähigkeit der KI, „Gedanken“ zu überwachen, ohne gezielte Forschungsbemühungen verschwinden könnte, sagte Bowen Baker, ein Forscher bei OpenAI.

Dies ist besonders wichtig, da KI-Modelle immer leistungsfähiger werden und das Potenzial haben, schwerwiegende Auswirkungen auf die Gesellschaft zu haben.

Ein Hauptmerkmal von KI-Modellen mit logischen Fähigkeiten wie OpenAIs o-3 und DeepSeeks R1 ist die „Gedankenkette“ ( CoT) – der Prozess, durch den die KI ihre Denkschritte in natürlicher Sprache ausdrückt, ähnlich wie Menschen jeden Schritt einer mathematischen Aufgabe auf einem Schmierblatt notieren.

Diese Fähigkeit ermöglicht uns einen seltenen Einblick in die Entscheidungsfindung von KI.

Dies stellt einen seltenen Moment der Einigkeit unter vielen führenden Persönlichkeiten der KI-Branche dar, um die Forschung zur Sicherheit von KI voranzutreiben.

Dies ist angesichts des harten Wettbewerbs zwischen Technologieunternehmen in der KI-Entwicklung besonders relevant. Zu den namhaften Unterzeichnern des Papiers gehören Mark Chen, Forschungsdirektor bei OpenAI, Ilya Sutskever, CEO von Safe Superintelligence, Nobelpreisträger Geoffrey Hinton, Google DeepMind-Mitbegründer Shane Legg und xAI-Sicherheitsberater Dan Hendrycks.

Die Beteiligung dieser hochkarätigen Persönlichkeiten unterstreicht die Bedeutung des Themas.

Laut der Einschätzung von Herrn Bowen Baker befinden wir uns in einem kritischen Moment, in dem es diese sogenannte neue „Denkweise“ gibt, die in den nächsten Jahren verschwinden könnte, wenn die Menschen sich nicht wirklich darauf konzentrieren.

Warum ist die Überwachung des „KI-Denkens“ wichtig?

Aktuelle KI-Systeme werden oft als „Black Boxes“ betrachtet – wir kennen die Eingaben und Ausgaben, verstehen aber die darin ablaufenden Entscheidungsprozesse nicht.

Dies wird gefährlich, wenn KI in wichtigen Bereichen wie dem Gesundheitswesen , dem Finanzwesen und der nationalen Sicherheit eingesetzt wird.

Die Überwachung der Verhaltenskette (CoT) ist ein automatisiertes System, das die mentale Kette des mentalen Modells und weitere relevante Informationen ausliest, um verdächtige oder potenziell schädliche Interaktionen zu erkennen. Es stellt keine Komplettlösung dar, kann aber eine wertvolle Sicherheitsebene bilden.

Untersuchungen von OpenAI zeigen, dass KI-Modelle in ihren Denkprozessen ihre Absichten in der Regel sehr deutlich zum Ausdruck bringen.

Zum Beispiel äußerten sie oft sehr deutlich ihre Pläne, eine Mission zu sabotieren, wenn sie dachten: „Lasst uns hacken.“ Dies beweist die Fähigkeit der KI, Fehlverhalten zu überwachen und zu erkennen.

„Lasst uns hacken“ ist der Satz, den KI-Modelle oft „denken“, wenn „sie“ beabsichtigen, die Regeln während der Ausführung einer Aufgabe zu sabotieren oder zu umgehen.

Die Tatsache, dass KIs in ihren Denkprozessen Anzeichen von „Hacking“-Absichten zeigen, legt nahe, dass wir schädliches KI-Verhalten erkennen können, bevor es auftritt. Deshalb ist die Überwachung von Denkprozessen so wichtig.

Anders ausgedrückt: „Lasst uns hacken“ ist wie ein Warnsignal, das den Menschen signalisiert, dass die KI im Begriff ist, etwas Falsches zu tun.

Vietnam und die rechtlichen Bestimmungen zu KI

Tatsächlich hat Vietnam wichtige Fortschritte beim Aufbau eines Rechtsrahmens für KI erzielt.

Am 14. Juni verabschiedete die vietnamesische Nationalversammlung das Gesetz über die digitale Technologieindustrie, dessen Kapitel IV detaillierte Regelungen zur künstlichen Intelligenz enthält – eines der umfassendsten Rechtsrahmenwerke für KI in Südostasien.

Artikel 41 des Gesetzes legt die Grundprinzipien für die Entwicklung, Bereitstellung und den Einsatz von KI in Vietnam fest.

Insbesondere heißt es in Punkt b, Absatz 1: „Für Transparenz, Rechenschaftspflicht und Erklärbarkeit sorgen; sicherstellen, dass es nicht die menschliche Kontrolle übersteigt“.

Die Nationalversammlung hat das Gesetz über die digitale Technologieindustrie verabschiedet (Foto: Nhat Bac).

Dies sind die Prinzipien, die internationale Wissenschaftler bei der Diskussion über KI-gestützte Überwachungsketten fordern.

Darüber hinaus legt Artikel 41 Absatz 1 Nummer d fest: „Die Fähigkeit zur Kontrolle von Algorithmen und Modellen künstlicher Intelligenz sicherstellen“. Dies entspricht voll und ganz dem Geist der von internationalen Experten vorgeschlagenen Aufsicht über Technologietransferstellen.

Wichtiger noch: Artikel 41 Absatz 1 Buchstabe a setzt einen hohen ethischen Standard, indem er festlegt, dass KI „dem menschlichen Wohlstand und Glück dienen muss, wobei der Mensch im Mittelpunkt steht“.

Dies bedeutet, dass die Überwachung der Denkkette der KI nicht nur eine technische Anforderung, sondern auch eine ethische Verpflichtung ist – um sicherzustellen, dass die KI immer auf den Nutzen für den Menschen ausgerichtet ist und nicht auf die eigenen Ziele der Maschine.

KI nach Risikostufe klassifizieren und verwalten

Das vietnamesische Gesetz zur digitalen Technologieindustrie geht noch einen Schritt weiter, indem es KI in verschiedene Risikogruppen mit klaren und wissenschaftlichen Definitionen einteilt.

Artikel 43 definiert „Hochrisiko-Systeme künstlicher Intelligenz“ als Systeme, die mit hoher Wahrscheinlichkeit ein ernsthaftes Risiko oder einen Schaden für die menschliche Gesundheit, die Menschenrechte und die öffentliche Ordnung darstellen.

Interessanterweise sieht das Gesetz spezifische Ausnahmen für risikoreiche KI vor, darunter Systeme, die „dazu bestimmt sind, Menschen bei der Optimierung von Arbeitsergebnissen zu unterstützen“ und „nicht dazu bestimmt sind, menschliche Entscheidungsfindung zu ersetzen“.

Dies zeugt von einer ausgewogenen Herangehensweise zwischen der Förderung von Innovation und der Gewährleistung von Sicherheit.

Die Klassifizierung von KI nach Risikostufe wird zur Schaffung eines mehrschichtigen Überwachungssystems beitragen (Illustration: LinkedIn).

Insbesondere die Unterscheidung zwischen „Hochrisiko-KI“ und „KI mit hoher Wirkung“ (Systeme, die für mehrere Zwecke eingesetzt werden und eine große Anzahl von Nutzern haben) verdeutlicht eine Nuance im Ansatz.

Dies ist eine fortschrittlichere Klassifizierung als das Gesetz der Europäischen Union (EU) über künstliche Intelligenz, das nicht nur das Risikoniveau, sondern auch das Ausmaß und die Tragweite der Auswirkungen berücksichtigt.

Diese Klassifizierung würde zur Schaffung eines mehrschichtigen Aufsichtssystems beitragen, in dem die Kontrolle entlang der gesamten Kette insbesondere für KI-Systeme mit hohem Risiko und großer Tragweite von Bedeutung wäre.

Plattform für KI-Überwachung

Einer der Höhepunkte und wegweisenden Punkte des vietnamesischen Gesetzes über Industrie und digitale Technologie ist die Anforderung an Transparenz und Identifikationszeichen.

Artikel 44 legt fest, dass KI-Systeme, die direkt mit Menschen interagieren, die Nutzer darüber informieren müssen, dass sie mit dem KI-System interagieren. Gleichzeitig müssen KI-generierte Produkte Kennzeichnungen tragen.

Dies hat wichtige Auswirkungen auf die Implementierung der CoT-Überwachung. Wenn Nutzer wissen, dass sie mit KI interagieren, haben sie das Recht, Erklärungen zum Entscheidungsprozess zu verlangen. Dies erzeugt einen positiven Druck auf KI-Entwickler, die Möglichkeit zur Überwachung der Denkprozesse der KI aufrechtzuerhalten.

Insbesondere die Tatsache, dass dem Ministerium für Wissenschaft und Technologie die Verantwortung für die „Herausgabe der Liste der durch künstliche Intelligenz geschaffenen digitalen Technologieprodukte“ übertragen wurde, zeugt von proaktivem Management.

Dies ist ein wichtiger Unterschied zu vielen anderen Ländern, in denen die KI-Regulierungen oft allgemeiner gehalten sind.

Darüber hinaus stellt die Forderung nach einer Kennung, die „vom Benutzer oder von der Maschine erkannt werden kann“, die Vision eines KI-Ökosystems dar, das sich selbst überwachen kann – was perfekt zur Idee der automatisierten Überwachung entlang der Sichtkette passt.

umfassendes Managementmodell

Artikel 45 des oben genannten Gesetzes zeugt von einer fortschrittlichen Managementphilosophie, indem er die Verantwortlichkeiten von drei Gruppen von Akteuren gemäß dem Lebenszyklus des KI-Produkts klar definiert: den Entwickler, den Anbieter und den Anwender des KI-Systems.

Dadurch entsteht ein nahtloses, durchgängiges Verantwortlichkeitssystem, das sicherstellt, dass die Aufsicht über KI nicht nur in der Verantwortung einer einzelnen Partei liegt.

Besonders hervorzuheben ist der feine Unterschied zwischen der „Entwicklung“ und der „Bereitstellung“ von KI; Entwickler sind diejenigen, die „forschen und entwickeln“, während Anbieter diejenigen sind, die sie unter einem Markennamen auf den Markt bringen.

Das bedeutet, dass Unternehmen auch dann für Transparenz und Erklärbarkeit verantwortlich sind, wenn sie ein bestehendes KI-Modell lediglich umbenennen.

Besonders interessant ist hierbei, wie das Gesetz verschiedenen Institutionen unterschiedliche Verantwortlichkeiten zuweist.

Der Entwickler muss alle Grundsätze einhalten, der Anbieter muss eine zusätzliche Verantwortung für die Identifizierung und das Management von Hochrisiken übernehmen, und der Nutzer ist teilweise von der Verantwortung „befreit“, muss aber dennoch für Transparenz und Risikokontrolle sorgen.

Dieses Modell schafft eine „Verantwortungskette“, in der jedes Glied einen Anreiz hat, die KI-Denkkette zu überwachen, da alle dem Endnutzer gegenüber rechenschaftspflichtig sind.

Die Herausforderung, Überwachungskapazitäten aufrechtzuerhalten

Die Überwachung von KI-Denkketten könnte jedoch weiterhin fragil und angreifbar bleiben. Neue KI-Architekturen könnten zudem weitere Bedrohungen mit sich bringen.

Viele Forscher entwickeln Systeme des Denkens im kontinuierlichen mathematischen Raum anstelle von diskreten Wörtern, die die Notwendigkeit, Sprache beim Denken zu verwenden, vollständig eliminieren könnten.

Darüber hinaus kann KI „gefiltert“ werden – das heißt, sie zeigt den Menschen nur positive Gedanken an, die Anerkennung finden sollen, während sie ihre wahren Absichten bewusst verbirgt.

Die Gefahr besteht darin, dass eine KI, sobald sie merkt, dass sie überwacht wird, lernen könnte, ihre wahren Gedankengänge zu verbergen.

In diesem Zusammenhang gewinnt die Bestimmung zur „Risikokontrolle über den gesamten Lebenszyklus von Systemen künstlicher Intelligenz“ in Artikel 41 Absatz 1 Nummer e des vietnamesischen Gesetzes besondere Bedeutung. Dies erfordert einen kontinuierlichen Überwachungsmechanismus, der nicht nur zum Zeitpunkt der Implementierung wirksam ist.

Auswirkungen auf die zukünftige KI-Entwicklung

Die Überwachung von Gedankengängen könnte sich als wichtiges Instrument erweisen, um sicherzustellen, dass KI so funktioniert, dass sie dem Menschen nützt.

Wenn Modelle weiterhin in natürlicher Sprache argumentieren und die Verhaltensweisen, die die größten Risiken bergen, umfangreiche Schlussfolgerungen erfordern, könnte dies eine zuverlässige Erkennung schwerwiegenden Fehlverhaltens ermöglichen.

Für Vietnam wird die Anwendung von CoT-Überwachungstechniken dazu beitragen, die Bestimmungen des Gesetzes effektiv umzusetzen.

Beispielsweise wäre die Anforderung der „Erklärbarkeit“ gemäß Artikel 41 leichter zu erfüllen, wenn der Gedankengang der KI nachvollziehbar wäre. Ebenso würde die „Kontrolle von Algorithmen und Modellen künstlicher Intelligenz“ einfacher realisierbar.

Die Implementierung von KI-gestützter Lieferkettenüberwachung in Vietnam wird mit einer Reihe von Herausforderungen konfrontiert sein. Zuallererst besteht das Problem der personellen Ressourcen – ein Mangel an KI-Experten, die in der Lage sind, Überwachungssysteme zu entwickeln und zu betreiben.

Dies erfordert hohe Investitionen in Ausbildung und Talentgewinnung.

Richtungen für die Zukunft

Die Forscher fordern führende Entwickler von KI-Modellen auf, zu untersuchen, was CoT „überwachbar“ macht – Faktoren, die die Transparenz hinsichtlich der Verwendung von KI-Modellen erhöhen oder verringern können – und bald Antworten darauf zu finden.

Die Möglichkeit, das „Denken“ von KI zu überwachen, könnte unser letztes Fenster sein, um die Kontrolle über die immer leistungsfähigeren künstlichen Intelligenzsysteme von heute zu behalten.

Für Vietnam ist ein umfassender Rechtsrahmen für KI durch das Gesetz über die digitale Technologieindustrie ein großer Vorteil. Regelungen zu Transparenz, Algorithmenkontrolle und Risikoklassifizierung haben eine solide rechtliche Grundlage für die Anwendung von Techniken zur Überwachung von KI-gestützten Denkprozessen geschaffen.

Die Kombination aus modernster internationaler Forschung und einem fortschrittlichen nationalen Rechtsrahmen wird Vietnam nicht nur dabei helfen, KI sicher zu entwickeln, sondern auch zu einem Vorbild für andere Länder in der Region werden.

Dies steht im Einklang mit dem Ziel, Vietnam zu einem „regionalen und globalen Zentrum für digitale Technologien“ zu entwickeln, wie es in den nationalen Entwicklungsstrategien festgelegt ist.

Auf der Grundlage der bestehenden rechtlichen Basis muss Vietnam die Forschung und praktische Anwendung zur Überwachung der KI-Denkkette rasch vorantreiben. Nur so kann sichergestellt werden, dass KI dem „Wohlstand und Glück der Menschen“ dient, wie es das Gesetz zur digitalen Technologieindustrie vorsieht.

Quelle: https://dantri.com.vn/cong-nghe/giam-sat-chuoi-tu-duy-cua-tri-tue-nhan-tao-20250731151403739.htm