Im Bereich der künstlichen Intelligenz (KI) hat die Nationalversammlung das Gesetz über die digitale Technologieindustrie verabschiedet, das ein Kapitel zur KI-Regulierung enthält. Dieses Gesetz schafft eine erste, prinzipiengeleitete rechtliche Grundlage für die Entwicklung und Anwendung von KI. Allerdings bilden diese Regelungen noch keinen umfassenden und ausreichend offenen Rechtsrahmen, um Forschung, Entwicklung, Einsatz und Nutzung von KI sowie ein vollständiges KI-Ökosystem zu ermöglichen.
Darüber hinaus fehlen Mechanismen zur Klassifizierung und Kontrolle von Risiken in KI-Systemen, zur Prüfung, Lizenzierung und Überwachung von KI-Systemen, insbesondere von risikoreichen Systemen, sowie Mechanismen und Richtlinien zur Entwicklung und Gewinnung hochqualifizierter KI-Fachkräfte. Obwohl die Resolution Nr. 57-NQ/TW die Notwendigkeit betont, „Daten zum primären Produktionsmittel zu machen“ und „die Datenwirtschaft und den Datenmarkt zu entwickeln“, bestehen derzeit zahlreiche Schwierigkeiten bei der Erhebung, Verarbeitung, Weitergabe und Nutzung von Daten für das Training von KI-Modellen. Die Verknüpfung und der Austausch von Daten zwischen nationalen und sektoralen Datenbanken verlaufen schleppend und genügen nicht den Anforderungen für die Entwicklung groß angelegter KI-Systeme.
Ein entscheidender Mangel an rechtlicher Haftung besteht, wenn KI Schäden verursacht. Diese Rechtslücke stellt eine der größten Herausforderungen bei der Bewältigung der Folgen KI-bedingter Schäden dar. Die Frage ist: Wer trägt die Verantwortung, wenn ein KI-System Schaden verursacht, beispielsweise selbstfahrende Autos, die Unfälle auslösen, oder medizinische Diagnosesoftware, die falsche Ergebnisse liefert? Der Entwickler, der Hersteller, der Nutzer oder das KI-System selbst? Ohne spezifische Haftungsregelungen birgt dies ein erhebliches Risiko für Verbraucher und Unternehmen, die KI einsetzen.
Darüber hinaus wirft die rasante Entwicklung von KI auch Bedenken hinsichtlich neuartiger Sicherheitsrisiken auf. Deepfake-Technologie wird missbraucht, um Desinformation zu verbreiten, Organisationen und Einzelpersonen zu diffamieren und Betrug in vielfältiger Form zu begehen. Wird diese Situation nicht durch einen ausreichend strengen Rechtsrahmen mit empfindlichen Strafen eingedämmt, droht soziale Instabilität.
Um die Auffassung von Partei und Staat zu verwirklichen, dass KI einen bahnbrechenden Fortschritt zur Stärkung der nationalen Kapazitäten im digitalen Zeitalter darstellt, folgt der derzeit von der Regierung erarbeitete Gesetzentwurf zur Künstlichen Intelligenz folgendem übergeordneten Prinzip: Das Gesetz stellt die Menschheit in den Mittelpunkt. Oberstes Prinzip ist, dass KI der Menschheit dient und sie nicht ersetzt, und dass Menschen KI bei wichtigen Entscheidungen überwachen. KI muss transparent, rechenschaftspflichtig und sicher sein. Das Gesetz zur Künstlichen Intelligenz steuert KI-Systeme risikobasiert, fördert die inländische KI-Entwicklung und die Eigenständigkeit im Bereich KI und nutzt KI als Motor für schnelles und nachhaltiges Wachstum.
Um eine höhere Managementeffizienz zu gewährleisten und die Rechte der Nutzer zu schützen, legt der Gesetzentwurf Verantwortlichkeiten für das Management und die Bearbeitung von KI-Vorfällen fest. Demnach sind Organisationen und Einzelpersonen, die an der Entwicklung, Bereitstellung, dem Einsatz und der Nutzung von KI-Systemen beteiligt sind, für die Sicherheit und Zuverlässigkeit während des Systembetriebs verantwortlich. Sie müssen Vorfälle, die Menschen, Eigentum, Daten oder die öffentliche Ordnung gefährden könnten, proaktiv erkennen, verhindern und umgehend beheben.
Bei technischen Störungen, Ergebnisabweichungen oder unerwartetem Verhalten in KI-Systemen müssen Entwickler und Anbieter unverzüglich technische Maßnahmen ergreifen, um die Situation zu beheben, das potenziell schädliche System vorübergehend auszusetzen oder zurückzurufen sowie die zuständigen staatlichen Aufsichtsbehörden zu benachrichtigen und sich mit ihnen zur Untersuchung und Bearbeitung abzustimmen. Anwender und Nutzer sind verpflichtet, Vorfälle unverzüglich zu dokumentieren und dem Anbieter zu melden sowie mit den relevanten Parteien im Behebungsprozess zusammenzuarbeiten. Sie dürfen ohne Genehmigung nicht eigenständig in das System eingreifen oder es verändern. Darüber hinaus regelt der Gesetzentwurf auch die Pflichten von Anbietern und Anwendern im Zusammenhang mit risikoreichen KI-Systemen…
Die frühe Verabschiedung des Gesetzes über künstliche Intelligenz in Vietnam wird einen Durchbruch für KI bedeuten und ein günstiges rechtliches Umfeld schaffen, um Innovationen zu fördern, die nationale Wettbewerbsfähigkeit zu steigern und die Position des Landes als technologisch unabhängige Nation zu festigen.
Quelle: https://daibieunhandan.vn/hoan-thien-khung-kho-phap-ly-cho-ai-10390839.html
Kommentar (0)