Ethische Rahmenbedingungen für KI-Operationen müssen klar definiert werden

Am Morgen des 21. November diskutierten die Abgeordneten der Nationalversammlung in Gruppen den Gesetzentwurf zur Künstlichen Intelligenz. Die Frage der Ethik im Zusammenhang mit KI-Aktivitäten bereitete vielen Abgeordneten Sorgen.

Die Delegation der Nationalversammlung von Ho-Chi-Minh-Stadt tagte am Morgen des 21. November in Gruppen. Foto: QUANG PHUC

Der stellvertretende Gesundheitsminister Nguyen Tri Thuc (Ho-Chi-Minh-Stadt) äußerte sich zum Gesetzesentwurf und erklärte, dass die Beschaffung und Ausschreibung eine der größten Herausforderungen für den medizinischen Sektor bei der Implementierung von Technologien und künstlicher Intelligenz (KI) darstelle. Die Preisfindung sei sehr schwierig und es bestehe zudem ein hohes Risiko für negative Folgen. Ethische Grundsätze im Umgang mit KI seien daher von entscheidender Bedeutung. Er hoffe, dass die Regierung das Gesundheitsministerium mit der Erstellung eines Ethikkodex für die KI-Nutzung beauftragen werde.

Delegierter Nguyen Tri Thuc (HCMC). Foto: QUANG PHUC

Der Abgeordnete Tran Hoang Ngan (Ho-Chi-Minh-Stadt) merkte an, dass sich KI rasant entwickle und der Menschheit großen Nutzen bringe, es aber auch negative Aspekte wie Menschenrechtsverletzungen und verfassungswidrige Handlungen gebe. Daher sei die Verabschiedung entsprechender Gesetze dringend notwendig. Der Abgeordnete stimmte zu, KI-Systeme risikobasiert zu klassifizieren und zu verwalten und die Risiken in vier Stufen (niedrig, mittel, hoch und inakzeptabel) einzuteilen. Der Gesetzentwurf müsse jedoch klare quantitative und qualitative Kriterien zur Identifizierung und Klassifizierung von Risiken definieren sowie Regelungen zu Managementmaßnahmen, Instrumenten und Methoden der Risikobewertung enthalten.

Delegierter Tran Hoang Ngan (HCMC). Foto: QUANG PHUC

Der Delegierte Nguyen Minh Duc (Ho-Chi-Minh-Stadt) fragte: Wer trägt die Verantwortung, wenn KI Produkte erstellt, die gegen geltendes Recht verstoßen, beispielsweise Verleumdung oder Beleidigung von Führungskräften? Dies ist auch ein Thema, das viele internationale Organisationen beschäftigt. Daher müsse laut dem Delegierten ein Entschädigungsmechanismus für Betroffene entwickelt werden, falls KI Fehler verursacht oder Urheberrechte verletzt.

„Dann stellt sich die Frage nach den Rechten an geistigem Eigentum für KI-generierte Werke. Wem gehören sie?“, fragte Abgeordneter Nguyen Minh Duc. Der Abgeordnete stimmte den Bestimmungen des Gesetzentwurfs zur Kennzeichnung von KI-gestützten Produkten zu, da diese verbindliche ethische und rechtliche Verantwortlichkeiten schaffen sollen.

Delegierter Nguyen Minh Duc (HCMC). Foto: QUANG PHUC

Laut dem Abgeordneten Bui Hoai Son (Hanoi) entwickelt sich die Frage der geistigen Eigentumsrechte und des Urheberrechts an KI-generierten Produkten weltweit zu einem brisanten Thema und führt zu zahlreichen Streitigkeiten. Der Gesetzesentwurf regelt dies jedoch noch nicht eindeutig. Sollte keine rechtzeitige Regelung erfolgen, könnten vietnamesische Künstler benachteiligt und das kulturelle und kreative Umfeld instabil werden.

„Das Gesetz über künstliche Intelligenz sollte mindestens eine prinzipielle Bestimmung enthalten, die bestätigt, dass alle KI-Anwendungen die Rechte an geistigem Eigentum respektieren müssen, keine Trainingsdaten aus literarischen, künstlerischen, musikalischen, filmischen Werken usw. illegal verwenden dürfen und dass das Gesetz über geistiges Eigentum für die Details zuständig ist“, schlug der Abgeordnete Bui Hoai Son vor.

Der Abgeordnete Bui Hoai Son erklärte außerdem, es sei notwendig, die Verantwortlichkeiten von KI-Dienstleistungsplattformen, insbesondere grenzüberschreitenden Plattformen, hinsichtlich der Einhaltung vietnamesischer Gesetze zu Presse, Kino, Cybersicherheit, Informationssicherheit, Kinderschutz usw. zu klären. Ohne ausreichend strenge Regulierungen werde es uns schwerfallen, die Verbreitung schädlicher, von KI erzeugter Inhalte zu bekämpfen, von Falschnachrichten bis hin zu Inhalten, die zu Gewalt, Hass und Verderbtheit anstiften und gegen kulturelle und soziale Ethik verstoßen.

Laut den Abgeordneten kann KI auch menschliche Handlungen ausführen und Fehler machen. Gleichzeitig gibt es viele unterschiedliche Ansichten zur rechtlichen Verantwortung von KI selbst, weshalb es schwierig ist, Verantwortlichkeit im herkömmlichen Sinne zu bestimmen. Tritt ein Vorfall ein, führt dies zu Streitigkeiten über administrative, zivilrechtliche und strafrechtliche Verantwortlichkeit. Daher ist es notwendig, die Grundsätze zu ergänzen, um die Verantwortlichkeiten zwischen den Akteuren und Beteiligten, einschließlich ausländischer Anbieter bei der Erbringung grenzüberschreitender KI-Dienstleistungen, zu unterscheiden und zwischen vorsätzlichen und fahrlässigen Fällen oder Fehlern aufgrund technischer Beschränkungen und unvorhersehbarer Ereignisse zu differenzieren.

Der Entwurf legt außerdem grundlegende ethische Prinzipien für KI-Aktivitäten fest. Die Abgeordnete Nguyen Thi Yen (Ho-Chi-Minh-Stadt) stimmte zu, dass der ethische Rahmen für KI-Aktivitäten klar definiert sein müsse, um Verstöße zu verhindern.

Zu den verbotenen Handlungen gehört die Nutzung von KI zur Verursachung von Unruhen, zur Anstiftung zu politischen Unruhen, zur Gefährdung der nationalen Sicherheit, zur Manipulation von Wahlen und Abstimmungen... Verboten ist auch die Nutzung von KI zur Erstellung von gefälschten Inhalten, gefälschten Bildern und Videoclips, zur Beleidigung von Ehre und Würde, zur Spaltung der Gesellschaft und für andere schädliche Zwecke.

PHAN THAO

Quelle: https://www.sggp.org.vn/khung-dao-duc-trong-hoat-dong-ai-phai-quy-dinh-ro-rang-post824652.html