Am Nachmittag des 27. November diskutierte die Nationalversammlung unter der Leitung des stellvertretenden Vorsitzenden Le Minh Hoan im Plenarsaal den Gesetzentwurf zur künstlichen Intelligenz.
Fehlende Regelungen zu Entschädigung und Versicherungshaftung
Bezüglich Artikel 20 des Gesetzentwurfs zum kontrollierten Testmechanismus für die Entwicklung künstlicher Intelligenz erklärte der Abgeordnete Hoang Minh Hieu ( Nghe An ), dass der Hauptzweck dieses Mechanismus darin bestehe, rechtliche Hürden für KI-Modelle abzubauen, begrenzte Tests zur Datenerhebung und zum Nachweis der Wirksamkeit zu ermöglichen und so langfristige Regulierungsreformen zu fördern. Dieser Ansatz deckt sich weitgehend mit unserer aktuellen Gesetzgebungspraxis, wonach Institutionen den Weg für die Entwicklung ebnen müssen.
Der Delegierte betonte, dass die Regelungen für kontrollierte Testmechanismen im Mittelpunkt des Rechtsrahmens für KI stehen müssten, weshalb die zuständige Behörde dieses Thema im Gesetzesentwurf genauer untersuchen und regeln müsse.
Dementsprechend schlug der Delegierte vor, die Regelungen zu Organisationen und Einzelpersonen, die an kontrollierten Studien teilnehmen und von bestimmten Compliance-Pflichten befreit oder befreit werden, gemäß Artikel 20 Absatz 2 des Gesetzentwurfs zu überprüfen. Diese Regelungen führen dazu, dass der Geltungsbereich der Befreiung auf die Bestimmungen dieses Gesetzes beschränkt ist, obwohl KI-Systeme häufig mit vielen anderen relevanten Rechtsvorschriften in Zusammenhang stehen.
Die Delegierten verwiesen auf den Mechanismus zum Testen von KI in selbstfahrenden Passagierflugzeugen in Japan, der von einigen Regeln zur Gewährleistung der Flugsicherheit ausgenommen ist. Ebenso sind die Tests von selbstfahrenden Autos in China und Japan von den Bestimmungen des Datenschutzgesetzes ausgenommen, sodass Bilddaten verwendet werden können, ohne die Gesichter von Verkehrsteilnehmern unkenntlich zu machen, um die KI-Bilderkennung zu trainieren.
Ausgehend von den Erfahrungen anderer Länder schlugen die Delegierten vor, dass die für die Erstellung der Studie zuständige Behörde lediglich in Artikel 20 Absatz 2 festlegen sollte, dass Organisationen und Einzelpersonen, die an kontrollierten Studien teilnehmen, von bestimmten in diesem Gesetz und anderen einschlägigen Gesetzen vorgeschriebenen Compliance-Pflichten befreit oder gelockert werden.
Gemäß Artikel 20 Absatz 5 ist die staatliche Verwaltungsbehörde für KI für die Organisation des Empfangs, der Bewertung und der Bearbeitung von Dossiers zur Teilnahme an kontrollierten Testaktivitäten nach dem Bewertungs- und Schnellreaktionsverfahren zuständig.
Der Delegierte Hoang Minh Hieu merkte an, dass KI-Systeme nicht nur mit Technologie und Algorithmen zusammenhängen, sondern auch multidisziplinäre und interdisziplinäre Fragestellungen darstellen. Daher eignen sich die Bestimmungen in Klausel 5 vermutlich nur für allgemeine KI-Systeme wie generative KI (ChatGPT, Gemini). Spezialisierte KI-Systeme hingegen weisen einen sehr hohen interdisziplinären Charakter auf.
Unter Bezugnahme auf das DrAid-System, ein von VinBrain entwickeltes KI-Produkt zur Unterstützung der medizinischen Bilddiagnostik, erklärte Delegierter Hoang Minh Hieu, dass bei einer Registrierung für Tests die Überwachung und Kontrolle durch das Gesundheitsministerium unausweichlich sei. Daher obliegt in einigen Ländern die Bewertung und Lizenzierung kontrollierter KI-Tests einem interdisziplinären Gremium.
Die Delegierten schlugen vor, die Bestimmungen in Artikel 20 Absatz 5 des Gesetzentwurfs dahingehend zu ändern, dass „die staatliche Verwaltungsbehörde für künstliche Intelligenz den Vorsitz führt und sich mit den zuständigen staatlichen Verwaltungsbehörden abstimmt, um den Empfang, die Bewertung und die Bearbeitung von Dossiers zur Teilnahme an kontrollierten Testaktivitäten zu organisieren“.
Der Delegierte führte außerdem aus, dass Artikel 20 des Gesetzentwurfs noch immer keine Regelungen zu Entschädigung und Versicherungspflichten enthalte. Es sei auch nicht festgelegt, wer hafte, wenn der Test einem Dritten Schaden zufüge. Grundsätzlich müsse die Testorganisation oder die Einzelperson, die den Schaden verursache, zivilrechtlichen Schadensersatz leisten. Daher schlug Delegierter Hoang Minh Hieu vor, diese Bestimmung in den Gesetzentwurf aufzunehmen.
Alle in Vietnam eingesetzten KI-Softwareprogramme müssen mit einer „ standardisierten, menschenähnlichen Basisdatenbank “ ausgestattet sein.
Der Abgeordnete der Nationalversammlung, Tran Van Lam (Bac Ninh), begrüßte den Gesetzentwurf ausdrücklich, da er den Grundsatz der Bürgerorientierung festlegt, Risiken klassifiziert und kontrolliert, risikoreiche KI-Systeme überprüft und die nationale Computer- und Dateninfrastruktur weiterentwickelt. Es handele sich um einen fortschrittlichen Rechtsrahmen, der internationalen Trends entspreche.
Um das Gesetz jedoch wirklich zu vervollständigen und eine langfristige Vision zu entwickeln, schlug der Delegierte eine wichtige Ergänzung vor: Künstliche Intelligenz als „neugeborenes menschliches Wesen“ zu betrachten. Eine „intelligente, aber unschuldige Entität“: Sie kennt das Gesetz nicht, versteht weder Ethik noch Etikette, besitzt keine kulturellen Werte und kann, wenn ihr dies nicht beigebracht wird, nicht zwischen Recht und Unrecht unterscheiden.
„Wenn wir KI als ein sich entwickelndes Phänomen betrachten, liegt unsere Verantwortung nicht nur darin, sie zu kontrollieren, sondern sie auch von Anfang an zu schulen, so wie man einem Kind grundlegende menschliche Werte vermittelt. Und dies sollte eine zwingende Bestimmung in diesem Gesetz sein, nicht nur eine Empfehlung“, sagte der Delegierte Tran Van Lam.
Die Delegierten schlugen der Nationalversammlung vor, dem Gesetz folgenden Rechtsgrundsatz hinzuzufügen: „Jegliche in Vietnam eingesetzte KI-Software, unabhängig davon, ob sie von inländischen oder ausländischen Organisationen entwickelt wurde, muss mit einer standardisierten menschlichen Datenbank ausgestattet sein.“
Laut dem Delegierten muss die „Standard-Grundlagendatenbank für menschliches Wissen“ ausreichend Informationen enthalten, um der KI das vietnamesische Recht, ethische Standards, Kultur und Traditionen des Landes zu vermitteln. Sie muss ihr außerdem beibringen, zwischen richtig und falsch, normativ und nicht normativ zu unterscheiden, Verhaltensgrenzen festzulegen, die nicht überschritten werden dürfen, und Regeln zur Identifizierung von Risiken für Menschen zu definieren. Vor allem aber muss sichergestellt werden, dass diese Grundlagendatenbank bei der Steuerung des KI-Verhaltens stets absolute Priorität hat und von keinem anderen Algorithmus oder Trainingsdaten überschrieben, ersetzt oder deaktiviert werden darf. Dies ist der rechtliche und technische „Goldene Ring“ , der gewährleistet, dass die KI nicht vom rechten Weg abkommt.
Um diese Ausrichtung effektiv umzusetzen, schlugen die Delegierten vor, dass das Ministerium für Wissenschaft und Technologie die Federführung beim Aufbau einer einheitlichen, standardisierten und kontinuierlich aktualisierten Datenbankplattform zum Thema „Vietnamesischsein“ übernimmt und diese KI-Entwicklern verpflichtend zur Verfügung stellt. Die Regierung sollte eine leistungsfähige nationale IT-Infrastruktur entwickeln, um sicherzustellen, dass vietnamesische KI auf vietnamesischen Werten basiert und nicht von ausländischen Modellen abhängig ist.
Gleichzeitig sollte ein nationales KI-Testzentrum aufgebaut werden, um abweichendes Verhalten umgehend zu erkennen, risikoreiche Modelle zu kontrollieren und bei Anzeichen einer Überschreitung der zulässigen Grenzen unverzüglich einzugreifen. Die KI-Bildung sollte in der gesamten Gesellschaft gefördert werden, mit dem Ziel, Privatpersonen, Unternehmen und insbesondere den öffentlichen Sektor zu befähigen, KI sachgemäß zu erkennen, anzuwenden und zu überwachen.
Der Abgeordnete Tran Van Lam betonte: „Das heutige Gesetz über künstliche Intelligenz ist nicht nur ein Technologiegesetz, sondern ein Gesetz der Zukunft; ein Bekenntnis der Nationalversammlung gegenüber dem Volk: Wir entwickeln Technologie, ohne die Kontrolle zu verlieren; wir fördern Innovation, ohne die Risiken außer Kontrolle geraten zu lassen. Und wir gestalten KI im Einklang mit vietnamesischen Werten, um dem vietnamesischen Volk zu dienen.“
Quelle: https://daibieunhandan.vn/phat-trien-cong-nghe-thuc-day-doi-moi-nhung-khong-de-rui-ro-vuot-tam-10397378.html
Kommentar (0)