Verschärfung der KI-„roten Linie“: Vietnam schlägt Verbot von Identitätsdiebstahltechnologie vor

Angesichts der rasanten Verbreitung von Deepfake-Technologien und des Risikos, dass künstliche Intelligenz (KI) für Betrug missbraucht wird, hat die Regierung ein absolutes Verbot von KI-Systemen vorgeschlagen, die Menschen imitieren können. Dies ist ein Schritt, um rechtliche Hürden zu schaffen, Menschenrechte zu schützen und die Sicherheit im digitalen Zeitalter zu gewährleisten.

Bộ Khoa học và Công nghệ•17/11/2025

Im Rahmen des Programms der 51. Sitzung gab der Ständige Ausschuss der Nationalversammlung am Abend des 17. November unter dem Vorsitz des Vorsitzenden der Nationalversammlung , Tran Thanh Man , und der Leitung des stellvertretenden Vorsitzenden der Nationalversammlung, Le Minh Hoan, Stellungnahmen zum KI-Gesetzentwurf ab.

Bei der Vorlage des KI-Gesetzentwurfs an den Ständigen Ausschuss der Nationalversammlung erklärte der Minister für Wissenschaft und Technologie (MOST), Nguyen Manh Hung, dass der Gesetzentwurf zum ersten Mal das Konzept eines „KI-Systems mit inakzeptablen Risiken“ festlegt.

Laut Minister Nguyen Manh Hung handelt es sich bei „KI-Systemen mit inakzeptablen Risiken“ um Systeme, die das Potenzial haben, Menschenrechte, nationale Sicherheit oder die öffentliche Ordnung schwerwiegend und irreparabel zu schädigen oder die für gesetzlich verbotene Handlungen entwickelt wurden. Aufgrund des unkontrollierbaren Gefahrenpotenzials wird die Entwicklung, Bereitstellung, der Einsatz und die Nutzung dieser Systeme in Vietnam in jeglicher Form verboten.

Der Entwurf nennt folgende Erkennungsmerkmale: Systeme, die dazu bestimmt sind, verbotenes Verhalten zu fördern; Verwendung gefälschter Elemente oder Simulation realer Personen und Ereignisse, um absichtlich zu täuschen, Wahrnehmungen und Verhaltensweisen zu manipulieren und dadurch die Rechte der Nutzer ernsthaft zu verletzen; Ausnutzung der Schwächen schutzbedürftiger Gruppen; Erstellung oder Verbreitung von gefälschten Inhalten, die ein hohes Risiko für die nationale Sicherheit, die öffentliche Ordnung und die öffentliche Sicherheit darstellen.

Dem Bericht zufolge führt die rasante Entwicklung von KI zu neuen Sicherheitsrisiken. Insbesondere Deepfakes werden als Werkzeug gewarnt, das zur Verbreitung von Falschnachrichten, Verleumdung und Betrug missbraucht werden kann, das das Vertrauen der Öffentlichkeit untergräbt und soziale Instabilität hervorruft. Autonome Waffensysteme mit KI stellen zudem eine Reihe ethischer und rechtlicher Herausforderungen dar, für die weltweit noch nach Lösungen gesucht wird. Die bestehenden Gesetze hinken der Kontrolle hinterher, wodurch die Kontrolllücke immer größer wird. Daher ist die Verabschiedung eines separaten KI-Gesetzes dringend erforderlich, um sowohl die Risiken zu kontrollieren als auch die Forschung und Anwendung von KI in Vietnam zu fördern.

Minister Nguyen Manh Hung erklärte, Ziel des Gesetzentwurfs sei die Schaffung eines einheitlichen Rechtsrahmens, um eine sichere, verantwortungsvolle und humane Entwicklung von KI zu gewährleisten. KI werde als nationale intellektuelle Infrastruktur und treibende Kraft für Produktivitätswachstum, Innovation sowie die Stärkung der technologischen Autonomie und der nationalen Wettbewerbsfähigkeit definiert.

*Der Minister für Wissenschaft und Technologie, Nguyen Manh Hung, spricht auf der Sitzung.*

Der Entwurf des KI-Gesetzes umfasst acht Kapitel und 36 Artikel. Er betont die menschenzentrierte KI-Entwicklungspolitik und präzisiert die Rolle des Staates bei der Steuerung und Entwicklung von KI. Das Gesetz etabliert einen risikobasierten Managementmechanismus, der eine transparente, sichere, kontrollierte und nachvollziehbare Anwendung von KI gewährleistet und die Sicherheit, die Datensouveränität und die nationalen Technologiereserverechte schützt.

Der Gesetzentwurf sieht außerdem vor, dass KI-Systeme unschädlich und unvoreingenommen sein und menschliche Werte respektieren müssen. Zudem soll ein Mechanismus zur Überwachung, Prüfung und Ahndung von Verstößen eingerichtet werden, um Abschreckung zu gewährleisten und das Vertrauen der Gesellschaft zu stärken. Die Regierung wird das Innovationsökosystem fördern und hochqualifizierte Fachkräfte entwickeln, indem sie Mechanismen zur Unterstützung von Forschung, Investitionen und Weiterbildung für Forschungsinstitute, Unternehmen und Einzelpersonen bereitstellt, die an der KI-Entwicklung beteiligt sind.

Der Ausschuss für Wissenschaft, Technologie und Umwelt der Nationalversammlung stimmte dem Richtlinienentwurf grundsätzlich zu, schlug jedoch vor, die quantitativen und qualitativen Kriterien zur Risikoklassifizierung von KI zu präzisieren. Die Prüfbehörde empfahl zudem, die Liste verbotener Handlungen zu erweitern, um die Abschreckung zu verstärken und die Strafverfolgung zu vereinheitlichen. So soll beispielsweise der Einsatz von KI zur Erstellung von Deepfakes verboten werden, um Betrug zu begehen, die Menschenwürde zu verletzen, politische Unruhen zu stiften, Wahlen zu manipulieren oder die nationale Sicherheit zu gefährden.

Dem Plan zufolge wird die Regierung den Entwurf des KI-Gesetzes am 21. November der Nationalversammlung vorlegen; die Abgeordneten werden ihn am 27. November im Plenarsaal erörtern. Der Gesetzentwurf soll ein „rechtliches Betriebssystem“ für die Entwicklung von KI in Vietnam werden und Innovationen fördern, gleichzeitig aber notwendige Grenzen zum Schutz der Bevölkerung vor den Gefahren der neuen Technologiegeneration setzen.

Kommentar (0)