Es ist notwendig, verbotene Verhaltensweisen in der KI-Forschung und -Anwendung zu regulieren.
Künstliche Intelligenz (KI) entwickelt sich zur Spitzentechnologie der industriellen Revolution 4.0 und eröffnet zahlreiche Chancen für die sozioökonomische Entwicklung. Gleichzeitig wirft sie jedoch viele dringende Herausforderungen in den Bereichen Management, Ethik und Sicherheit auf, die von den geltenden Gesetzen nicht vollständig abgedeckt werden.
Daher waren sich die Abgeordneten der Nationalversammlung einig, dass ein Gesetzentwurf zur künstlichen Intelligenz entwickelt werden muss, um einen bahnbrechenden Rechtskorridor für künstliche Intelligenz zu schaffen, ein günstiges Rechtsumfeld zur Förderung von Innovationen zu schaffen, die nationale Wettbewerbsfähigkeit zu steigern und gleichzeitig Risiken zu managen, nationale Interessen und Menschenrechte zu schützen.
Der Abgeordnete der Nationalversammlung, Tran Dinh Chung (Da Nang), äußerte sich besorgt über den Einsatz von KI in staatlichen Behörden und sagte, dies werde Behörden, Beamten und Angestellten helfen, viel Zeit zu sparen, die Arbeit schneller und synchroner zu erledigen und so zur Verbesserung der Arbeitsqualität beizutragen.
Neben den Kosten- und Zeitvorteilen des Einsatzes von KI in staatlichen Behörden stellten die Delegierten auch fest, dass es derzeit viele Fragen gibt, die im Gesetzesentwurf noch genauer untersucht und präzisiert werden müssen.
Das erste Problem ist die Sicherheit beim Einsatz von KI, da Beamte und Angestellte des öffentlichen Dienstes derzeit sowohl für das KI-Training als auch im laufenden Betrieb Eingabedaten bereitstellen müssen. Werden diese Daten nicht streng kontrolliert, besteht die Gefahr, dass interne, sensible oder vertrauliche Staatsinformationen in die KI-Software gelangen oder für andere Zwecke als das KI-Training verwendet werden. Auch fehlende Regelungen zur Speicherung, zum Speicherort und zu den Zugriffsrechten geben Anlass zur Sorge.
Zweitens birgt die Konzentration großer Datenmengen staatlicher Stellen in KI-Software das Risiko von Hackerangriffen und Datendiebstahl. Dieses Risiko erhöht sich insbesondere dadurch, dass staatliche Stellen KI-Software nicht selbst entwickeln und betreiben können, sondern häufig auf die Zusammenarbeit mit externen Unternehmen angewiesen sind. Gleichzeitig entwickelt sich auch die Spionagesoftware aus dem Ausland weiter, sodass der Einsatz von KI zusätzlich mit dem Risiko von Datendiebstahl und Datenkontrolle verbunden ist.
Drittens besteht ein weiteres Risiko in der Genauigkeit. Da KI-Software aufgrund des Lernens aus verfügbaren Daten auch ungenaue Ergebnisse liefern kann, kann sie Vorurteile oder fehlerhafte Lösungen übernehmen, die Beamte in der Vergangenheit getroffen haben. „Ungenaue oder unvollständige Daten beeinträchtigen die Qualität der KI ebenfalls erheblich“, betonte der Delegierte.
Beamte, Angestellte im öffentlichen Dienst und Bürger verfügen nicht über die nötigen Fähigkeiten, um Fragen an die KI zu stellen, was zu begrenzten Antworten führt. Gleichzeitig benötigt die KI Zeit, um neue Rechtsdokumente und Anweisungen von Landesbehörden zu verarbeiten.
Viertens entspricht die Qualität der KI derzeit nicht den Anforderungen. Einige KI-Modelle sind sehr komplex, was die Kontrolle des Analyseprozesses, die Datenverarbeitung und die Erklärung der KI-Entscheidungen erschwert. Hinzu kommt, dass Fehler in Algorithmen oder KI-Systemen ebenfalls zu Fehlern führen.
Neben den Anforderungen an die technische Infrastruktur und die personellen Ressourcen für den Einsatz von KI in staatlichen Behörden wies der Delegierte Tran Dinh Chung auch auf die Gefahr des KI-Missbrauchs hin, der die Kompetenzen der Beamten beeinträchtigen könnte. Beamte würden dann weniger Forschung betreiben, da sie glaubten, es genüge, die Technologie in Software zu implementieren, damit KI ihre Fragen beantworten könne.
„Der Einsatz von KI-Technologie in staatlichen Behörden ist unaufhaltsam. Doch wie lässt sich damit Arbeitseffizienz gewährleisten und gleichzeitig Informationssicherheit und Datenschutz sicherstellen? Diese Frage beschäftigt uns.“ Daher stimmte der Delegierte Tran Dinh Chung der Ausarbeitung eines Gesetzesentwurfs zur Künstlichen Intelligenz zu, regte aber gleichzeitig weitere Überprüfungen an, um die Übereinstimmung mit bestehenden Gesetzen zu gewährleisten.
Die Delegierten schlugen außerdem vor, eine Bestimmung zu prüfen und hinzuzufügen, die verbotene Verhaltensweisen und Aktivitäten in der KI-Forschung, -Anwendung und -Einführung regelt, anstatt sie wie derzeit in vielen Bestimmungen des Gesetzesentwurfs zu verstreuen, was die Überwachung erschwert.
Laut dem Delegierten ist eine klare Definition der rechtlichen Verantwortung für KI von entscheidender Bedeutung, um künftige Rechtsstreitigkeiten zu vermeiden und Verstöße zu ahnden. Da KI mit Maschinen und Technologien verknüpft ist, können neben menschlichen Fehlern auch Maschinen, Technologien oder andere Faktoren für Fehlverhalten verantwortlich gemacht werden. Daher ist es notwendig, diese Faktoren präzise zu definieren und eine Unklarheit der rechtlichen Verantwortung zu vermeiden, insbesondere bei der Anwendung und Nutzung von KI in staatlichen Einrichtungen.
Es ist notwendig, die für das Risikomanagement in den einzelnen Bereichen zuständige Behörde klar zu benennen.
Die Abgeordnete Vuong Thi Huong (Tuyen Quang) äußerte sich besorgt über die im zweiten Abschnitt des Gesetzesentwurfs vorgesehene Verwaltung von Hochrisiko-KI-Systemen und erklärte, dass der Gesundheitssektor aufgrund seiner direkten Auswirkungen auf das menschliche Leben und die Gesundheit, sensible personenbezogene Daten und das gesellschaftliche Vertrauen als Hochrisikosektor bei der Anwendung künstlicher Intelligenz eingestuft werden müsse. KI-Systeme, die Bilddiagnostik, Krankheitsbehandlung, Chirurgie, Genanalyse usw. unterstützen, können bei mangelnder Überprüfung, fehlenden Sicherheitsstandards oder mangelnder Transparenz der Trainingsdaten schwerwiegende, mitunter irreversible Folgen haben.
Der Gesetzentwurf regelt die Klassifizierung und das Management von Risiken, legt aber nicht fest, welche Behörde in den einzelnen Bereichen zuständig ist. Delegierte stellten zudem fest, dass im Gesundheitssektor eine allgemeine Koordinierung durch die IT-Verwaltungsbehörde ohne klare Definition der Rolle des Gesundheitssektors zu Überschneidungen bei der Bewertung, mangelnder Einheitlichkeit der Berufsstandards und Schwierigkeiten beim Management von KI-Produkten führen könnte, die als Medizinprodukte eingesetzt oder in der medizinischen Diagnostik und Therapie verwendet werden.
Daher wird vorgeschlagen, die Verordnung, die dem Gesundheitsministerium die Aufsicht über das Management von Hochrisiko-Systemen künstlicher Intelligenz im medizinischen Bereich überträgt, zu ergänzen und sich mit dem Ministerium für Information und Kommunikation sowie relevanten Ministerien und Behörden abzustimmen, um: technische Standards, klinische Bewertungen und Sicherheitsinspektionen zu erlassen; Vorschriften zur Datensicherheit in medizinischen Aufzeichnungen und zur Vernetzung medizinischer Informationssysteme zu erlassen; und die Risiken während der Nutzung zu überwachen.
„Eine klare Definition des Schwerpunkts schafft eine solide Rechtsgrundlage, gewährleistet die Patientensicherheit und schafft gleichzeitig die Voraussetzungen dafür, dass Technologieunternehmen und medizinische Einrichtungen KI-Anwendungen transparent und kontrolliert einsetzen können“, betonte die Delegierte Vuong Thi Huong.
Der Abgeordnete der Nationalversammlung, Be Minh Duc (Cao Bang), stimmte den Bestimmungen zum Nationalen Fonds für die Entwicklung künstlicher Intelligenz in Artikel 23 des Gesetzentwurfs zu und erklärte, dieser Fonds sei eingerichtet worden, um die Forschungskapazitäten sowie die Anwendung von KI im Land zu fördern und zu unterstützen. Allerdings gebe es bereits den Nationalen Fonds für Wissenschafts- und Technologieentwicklung und den Nationalen Technologieinnovationsfonds, die ebenfalls die Förderung von Forschung und technologischer Innovation, einschließlich KI, zum Ziel hätten.
Obwohl sich die einzelnen Fondsarten in Umfang und Zielsetzung unterscheiden, konzentrieren sie sich alle auf die Bereiche Wissenschaft und Technologie. Daher empfiehlt es sich, die Beziehungen zwischen den Fondsarten zu überprüfen und festzulegen, um deren Effektivität zu steigern, Doppelarbeit, Ressourcenstreuung und eine zusätzliche Budgetbelastung zu vermeiden.
Auch wenn sie dem gleichen Ministerium unterstehen, schlugen die Delegierten vor, eine Zusammenlegung dieser drei Fondsarten in Betracht zu ziehen, um die Ressourcen auf die Umsetzung von Fördermaßnahmen für eine günstigere Entwicklung von Wissenschaft und Technologie zu konzentrieren.
Darüber hinaus schlug der Delegierte Be Minh Duc vor, dass einschlägige Fachgesetze auch spezifische Regelungen zu KI in den jeweiligen Bereichen enthalten sollten. Dies ist ein Prinzip, das geregelt werden muss, da sich unser Land im digitalen Zeitalter befindet. Künstliche Intelligenz wird in allen Branchen, allen sozioökonomischen Bereichen sowie im Verteidigungs- und Sicherheitssektor umfassend erforscht und angewendet. Die Ergänzung dieses Prinzips wird dazu beitragen, eine umfassende Regulierung spezifischer Fragestellungen zu gewährleisten und den Managementanforderungen im Kontext der rasanten technologischen Entwicklung von heute gerecht zu werden.
Quelle: https://daibieunhandan.vn/gop-3-quy-ve-khoa-hoc-cong-nghe-giup-tap-trung-nguon-luc-10396526.html
Kommentar (0)