Vervollständigung des rechtlichen Rahmens für KI

Im Bereich der künstlichen Intelligenz (KI) hat die Nationalversammlung das Gesetz über die digitale Technologieindustrie verabschiedet, das ein Kapitel zur KI-Regulierung enthält. Dies bildet die erste rechtliche Grundlage für die Entwicklung und Anwendung von KI. Allerdings haben diese Regelungen noch keinen umfassenden Rechtsrahmen geschaffen, der ausreichend offen ist, um Forschung, Entwicklung, Einsatz und Nutzung von KI sowie ein umfassendes KI-Ökosystem zu ermöglichen.

Darüber hinaus fehlt es an Mechanismen zur Klassifizierung und Kontrolle von Risiken in KI-Systemen, an Mechanismen zur Inspektion, Lizenzierung und Überwachung von KI-Systemen, insbesondere von Hochrisiko-KI-Systemen, sowie an Mechanismen und Richtlinien zur Entwicklung und Gewinnung hochqualifizierter KI-Fachkräfte. Obwohl die Resolution Nr. 57-NQ/TW klar festlegt, dass „Daten zum Hauptproduktionsmittel werden“ und „die Datenwirtschaft und den Datenmarkt entwickeln“ müssen, ist die Erfassung, Verarbeitung, Weitergabe und Nutzung von Daten für das Training von KI-Modellen derzeit mit zahlreichen Schwierigkeiten verbunden. Die Verknüpfung und der Austausch von Daten zwischen nationalen und branchenspezifischen Datenbanken verlaufen weiterhin schleppend und genügen nicht den Anforderungen für die Entwicklung groß angelegter KI-Systeme.

Es ist wichtig zu erwähnen, dass es derzeit eine rechtliche Lücke in der Haftungsfrage gibt, wenn KI Schäden verursacht. Diese Lücke stellt eine der größten Herausforderungen im Umgang mit den Folgen von KI dar. Die Frage ist: Wer trägt die Verantwortung, wenn ein KI-System Schaden verursacht, beispielsweise ein selbstfahrendes Auto einen Unfall auslöst oder eine medizinische Diagnosesoftware falsche Ergebnisse liefert? Ist es der Entwickler, der Hersteller, der Nutzer oder das KI-System selbst? Ohne klare Regelungen zur Haftung birgt dies ein enormes Risiko für Verbraucher und Unternehmen bei der Nutzung von KI.

Doch damit nicht genug: Mit der rasanten Entwicklung von KI wachsen auch die Bedenken hinsichtlich neuartiger Sicherheitsrisiken. Deepfake-Technologie wird missbraucht, um Falschinformationen zu verbreiten, Organisationen und Einzelpersonen zu diffamieren und Betrug zu begehen. Wird diese Situation nicht durch einen ausreichend strengen Rechtsrahmen mit entsprechenden Sanktionen eingedämmt, droht soziale Instabilität.

Um die von Partei und Staat vertretene Auffassung zu verwirklichen, dass KI als treibende Kraft und Durchbruch zur Verbesserung der nationalen Kapazitäten im digitalen Zeitalter dient, erarbeitet die Regierung den Gesetzentwurf zur Künstlichen Intelligenz mit einer einheitlichen Zielsetzung: Das Gesetz stellt den Menschen in den Mittelpunkt. Oberstes Prinzip ist, dass KI dem Menschen dienen und ihn nicht ersetzen soll. Der Mensch überwacht KI bei wichtigen Entscheidungen; KI muss transparent, verantwortungsvoll und sicher sein. Das Gesetz zur Künstlichen Intelligenz regelt die Steuerung von KI-Systemen entsprechend ihrem Risikograd, fördert die Entwicklung und Autonomie von KI im Inland und sieht KI als Motor für schnelles und nachhaltiges Wachstum.

Um eine höhere Managementeffizienz zu gewährleisten und die Rechte der Nutzer zu schützen, legt der Gesetzentwurf die Verantwortlichkeiten für das Management und die Bearbeitung von KI-Vorfällen fest. Demnach sind Organisationen und Einzelpersonen, die an der Entwicklung, Bereitstellung, dem Einsatz und der Nutzung von KI-Systemen beteiligt sind, für die Sicherheit und Zuverlässigkeit des Systems während des Betriebs verantwortlich. Sie müssen Vorfälle, die Personen, Eigentum, Daten oder die öffentliche Ordnung gefährden könnten, proaktiv erkennen, verhindern und umgehend beheben.

Tritt ein technischer Vorfall, fehlerhafte Ergebnisse oder unerwartetes Verhalten des KI-Systems auf, müssen Entwickler und Anbieter unverzüglich technische Maßnahmen ergreifen, um das potenziell schädliche System zu reparieren, auszusetzen oder zurückzuziehen. Sie müssen die zuständige staatliche Behörde benachrichtigen und sich mit ihr abstimmen, um den Vorfall zu untersuchen und zu bearbeiten. Anwender und Betreiber sind verpflichtet, den Vorfall zu dokumentieren, den Anbieter unverzüglich zu informieren und sich mit den relevanten Parteien bei der Behebung abzustimmen. Sie dürfen ohne Genehmigung nicht eigenmächtig in das System eingreifen oder es verändern. Darüber hinaus regelt der Gesetzentwurf die Pflichten von Anbieter und Betreiber für KI-Systeme mit hohem Risiko.

Die frühzeitige Verkündung des Gesetzes über künstliche Intelligenz in Vietnam wird einen Durchbruch für KI bedeuten, ein günstiges rechtliches Umfeld zur Förderung von Innovationen schaffen, die nationale Wettbewerbsfähigkeit steigern und die Position eines Landes mit der Fähigkeit zur technologischen Autonomie festigen.

Quelle: https://daibieunhandan.vn/hoan-thien-khung-kho-phap-ly-cho-ai-10390839.html