Vorschläge zur Nutzung von KI für Kommunikation und Werbung müssen klar gekennzeichnet und angekündigt werden.

Der Gesetzentwurf zur künstlichen Intelligenz sieht vor, dass Inhalte, die mit Elementen erstellt oder bearbeitet wurden, welche reale Personen simulieren (Deepfake), und die zu Missverständnissen führen können, oder Inhalte, die von künstlicher Intelligenz zu Kommunikations- und Werbezwecken erstellt wurden, klar gekennzeichnet werden müssen.

Klassifizierung von Systemen der künstlichen Intelligenz in vier Risikostufen

Am Morgen des 21. November hörte die Nationalversammlung die Präsentation und den Bericht über die Prüfung des Gesetzentwurfs zur künstlichen Intelligenz an.

Bei der Vorstellung des Berichts erklärte Wissenschafts- und Technologieminister Nguyen Manh Hung, der Gesetzesentwurf sei darauf ausgelegt, einen bahnbrechenden Rechtskorridor für künstliche Intelligenz zu schaffen, ein günstiges rechtliches Umfeld zur Förderung von Innovationen und zur Steigerung der nationalen Wettbewerbsfähigkeit zu schaffen und gleichzeitig Risiken zu managen, nationale Interessen, Menschenrechte und die digitale Souveränität zu schützen.

Der Minister für Wissenschaft und Technologie, Nguyen Manh Hung, stellte den Bericht vor.

Zur Regulierung von Systemen der künstlichen Intelligenz verfolgt der Gesetzentwurf einen risikobasierten Managementansatz, indem er die künstliche Intelligenz in vier Stufen einteilt und entsprechende Verpflichtungen auferlegt.

Künstliche Intelligenzsysteme werden in vier Risikostufen eingeteilt: Unakzeptables Risiko: Das System hat das Potenzial, ernsthaften, irreparablen Schaden zu verursachen.

Ein hohes Risiko besteht bei Systemen, die Leben, Gesundheit, Rechte und berechtigte Interessen gefährden können; ein mittleres Risiko bei Systemen, die die Gefahr bergen, Nutzer zu verwirren, zu manipulieren oder zu täuschen. Alle übrigen Fälle bergen ein niedriges Risiko.

Der Lieferant muss das System vor der Markteinführung selbst klassifizieren und ist für das Ergebnis der Klassifizierung verantwortlich.

Bei Systemen mit mittlerem und hohem Risiko muss der Lieferant das Ministerium für Wissenschaft und Technologie über das One-Stop-Portal benachrichtigen. Die zuständige Behörde hat das Recht, die Einstufung zu überprüfen und neu zu bewerten.

Das Gesetz schreibt Transparenz, Kennzeichnung und Rechenschaftspflicht vor. Insbesondere muss die verantwortliche Stelle Inhalte, die mit gefälschten Elementen erstellt oder bearbeitet wurden, Inhalte, die reale Personen simulieren (Deepfakes), die zu Missverständnissen führen können, oder Inhalte, die mithilfe künstlicher Intelligenz zu Kommunikations- und Werbezwecken erstellt wurden, klar kennzeichnen.

Lieferanten und Implementierer müssen den betroffenen Parteien auf deren Anfrage hin die Ergebnisse des Umgangs mit Hochrisikosystemen erläutern.

Im Falle eines Vorfalls sind die beteiligten Parteien verpflichtet, das System unverzüglich zu beheben, auszusetzen oder zurückzuziehen und dies über das One-Stop-Portal zu melden. Aus Gründen des Risikomanagements ist die Entwicklung, Bereitstellung, der Einsatz und die Nutzung solcher Systeme in jeglicher Form untersagt, sofern ein inakzeptables Risiko besteht.

Die Verbotsliste umfasst Systeme, die für gesetzlich verbotene Handlungen verwendet werden, die Verwendung gefälschter Elemente zur Täuschung, Manipulation und Verursachung ernsthaften Schadens, die Ausnutzung der Schwächen schutzbedürftiger Gruppen (Kinder, ältere Menschen usw.) oder die Erstellung gefälschter Inhalte, die die nationale Sicherheit ernsthaft gefährden.

Bei Hochrisikosystemen muss vor der Verbreitung oder Inbetriebnahme eine Eignungsprüfung des Hochrisikosystems durchgeführt werden.

Die Bewertung kann in Form einer Konformitätsbescheinigung (durchgeführt von einer akkreditierten Stelle) oder einer Konformitätsüberwachung (Selbstbewertung durch den Lieferanten) erfolgen.

Der Premierminister legt die Liste der Hochrisiko-Systeme künstlicher Intelligenz für jede Bewertungsform fest.

Für den Lieferanten (Einführung von Risikomanagementmaßnahmen, Verwaltung von Schulungsdaten, Erstellung technischer Dokumentationen, Sicherstellung der menschlichen Aufsicht) und den Durchführenden (Betrieb zum vorgesehenen Zweck, Gewährleistung der Sicherheit, Erfüllung der Transparenzpflichten) werden detaillierte Verpflichtungen festgelegt.

Ausländische Lieferanten von Hochrisikosystemen müssen einen Bevollmächtigten in Vietnam haben und eine juristische Person in Vietnam gründen, wenn das System einer obligatorischen Konformitätszertifizierung unterliegt.

Bei Modellen mit mittlerem, niedrigem Risiko und Mehrzweckmodellen muss das System für mittleres Risiko Transparenz und Kennzeichnung gewährleisten.

Der Entwurf legt außerdem die Verantwortlichkeiten von Entwicklern und Nutzern allgemeiner KI-Modelle fest, um die Einhaltung vietnamesischen Rechts zu gewährleisten. Für solche Modelle mit systemischem Risiko (potenziell weitreichenden Auswirkungen) gelten erweiterte Pflichten, darunter Folgenabschätzung, technische Dokumentation und Meldung an das Ministerium für Wissenschaft und Technologie.

Allerdings sind Open-Source-KI-Modelle für allgemeine Zwecke von diesen erweiterten Verpflichtungen ausgenommen; wenn ein Open-Source-Modell zur Entwicklung eines KI-Systems verwendet wird, muss die nutzende Organisation das Risikomanagement dieses Systems übernehmen.

Erwägen Sie die Verwendung unsichtbarer Etiketten, um die Kosten zu senken.

Aus der Perspektive der Prüfung erklärte der Vorsitzende des Ausschusses für Wissenschaft, Technologie und Umwelt, Nguyen Thanh Hai, dass der Ausschuss die Kennzeichnung von KI-Produkten als eine verbindliche ethische und rechtliche Verantwortung für den Aufbau von Vertrauen im Zeitalter der KI ansieht.

Vorsitzender des Ausschusses für Wissenschaft, Technologie und Umwelt Nguyen Thanh Hai.

Der Ausschuss stimmt grundsätzlich den Kennzeichnungsvorschriften im Gesetzesentwurf zu, empfiehlt jedoch, internationale Erfahrungen mit KI-generierten Produkten heranzuziehen, um die Eignung für die praktischen Gegebenheiten in Vietnam sicherzustellen.

Für Produkte und Hardwaregeräte mit KI-Anwendungen (wie Kühlschränke, Fernseher, Waschmaschinen usw.) wird empfohlen, die Anwendung unsichtbarer Wasserzeichen zu erforschen und in Betracht zu ziehen, um Kosten und Verfahren zu reduzieren und gleichzeitig die Verwaltung und Rückverfolgbarkeit zu gewährleisten.

Gleichzeitig ist vorgesehen, im Gesetzentwurf die Grundsätze festzulegen, nach denen die Regierung detaillierte Anweisungen zu Formularen, technischen Standards und Ausnahmen erteilen kann.

Es gibt einen Vorschlag, die Kennzeichnungsvorschriften von obligatorisch auf empfohlen umzustellen, mit minimalen technischen Hinweisen.

Gleichzeitig ist es notwendig, in einer Reihe von Bereichen einen freiwilligen Kennzeichnungsmechanismus zu erproben; gleichzeitig muss die Kommunikation verstärkt werden, um das Missverständnis zu vermeiden, dass „keine Kennzeichnung bedeutet, dass es sich nicht um ein KI-Produkt handelt“.

Hinsichtlich der Risikoklassifizierung ist der Ausschuss der Ansicht, dass die vierstufige Klassifizierung, während das Gesetz über die Produkt- und Warenqualität Produkte und Waren in drei Kategorien einteilt, inkonsistent ist, wenn KI als Produkt und Ware betrachtet wird.

Die Vorschriften zur Konformitätszertifizierung für Systeme künstlicher Intelligenz mit hohem Risiko stehen nicht im Einklang mit den Grundsätzen für den Umgang mit Produkten und Gütern mit hohem Risiko, wie sie im Gesetz über die Produkt- und Warenqualität vorgeschrieben sind.

Daher wird empfohlen, die Bestimmungen des Gesetzentwurfs weiterhin sorgfältig zu prüfen und mit den geltenden Gesetzen zu vergleichen.

Laut Bauzeitung

Quelle: https://mst.gov.vn/de-xuat-dung-ai-de-truyen-thong-quang-cao-phai-dan-nhan-thong-bao-ro-197251125140252967.htm