Expertenrat: KI sollte nicht übereilt legalisiert werden.

(NLDO) - Der Workshop stieß auf großes Interesse bei Forschern, Dozenten, Studenten und Experten aus dem Bereich Technologie und Recht.

Am 7. Oktober organisierte die Universität für Wirtschaft und Recht (VNU-HCM) in Zusammenarbeit mit der Ho Chi Minh City Law Newspaper eine wissenschaftliche Konferenz zum Thema „KI und Recht: Internationale Erfahrungen und einige Vorschläge für Vietnam“.

Wir brauchen Flexibilität statt eines "starren Rahmens".

Im Rahmen des Workshops präsentierte Associate Professor Dr. Ngo Huu Phuoc, stellvertretender Dekan der Fakultät für Wirtschaftsrecht an der Universität für Wirtschaft und Recht, eine Abhandlung über die Auswirkungen künstlicher Intelligenz (KI) auf das Rechtssystem, die Gesetzgebungserfahrungen von Ländern auf der ganzen Welt und politische Vorschläge für Vietnam.

Dr. Ngo Huu Phuoc, außerordentlicher Professor und stellvertretender Dekan der Fakultät für Wirtschaftsrecht an der Universität für Wirtschaft und Recht, präsentierte seinen Beitrag. Foto: Organisationskomitee

Laut Herrn Phuoc zählt China zu den Ländern mit einem bemerkenswerten Ansatz zur KI-Governance. Das Land wendet ein mehrschichtiges Modell an, das grundlegende Gesetze wie das Cybersicherheitsgesetz (2017), das Datensicherheitsgesetz (2021) und das Gesetz zum Schutz personenbezogener Daten (2021) mit spezialisierten Verordnungen, lokalen Regelungen und technischen Standards, die eher informellen Charakter haben, kombiniert. Dieser Ansatz ermöglicht es China, die Technologie sowohl streng zu regulieren als auch die Voraussetzungen für Technologietests innerhalb des Kontrollrahmens zu schaffen.

Die Hauptvorteile liegen in der Geschwindigkeit und Flexibilität, die eine rasche Anpassung der Politik an technologische Entwicklungen ermöglichen und gleichzeitig die Entwicklung eines leistungsfähigen KI-Ökosystems fördern. Dieses Modell birgt jedoch auch Schwächen hinsichtlich Datenschutz, rechtlicher Überschneidungen und der Gefahr, Innovationen durch tiefgreifende staatliche Eingriffe zu ersticken.

Aufgrund internationaler Erfahrungen ist Privatdozent Dr. Ngo Huu Phuoc der Ansicht, dass Vietnam zum jetzigen Zeitpunkt noch kein separates KI-Gesetz erlassen sollte. Der Grund dafür ist, dass das heimische KI-Ökosystem noch nicht ausgereift genug für eine Legalisierung ist. Zudem würde ein zu starrer Rechtsrahmen Innovationen behindern. Darüber hinaus sind die staatlichen Ressourcen zur Steuerung von KI noch begrenzt.

Stattdessen schlug er vor, einen ethischen Rahmen für KI (Verhaltenskodex) zu erlassen, der verantwortungsvolles Verhalten und eine verantwortungsvolle Entwicklung regeln soll; eine KI-Sandbox aufzubauen, die kontrollierte Tests ermöglicht; und bestehende Gesetze zu ändern und zu ergänzen, um KI-bezogene Vorschriften in das bestehende Rechtssystem zu integrieren.

Laut Experten werden diese Ausrichtungen Vietnam dabei helfen, die Chancen der KI flexibel, sicher und entsprechend den tatsächlichen Gegebenheiten des Landes zu nutzen.

Wenn KI an die Krankenhaustür klopft

Laut Dr. Le Minh Khoi, außerordentlicher Professor und Leiter der Abteilung für Wissenschaft und Ausbildung am Universitätsklinikum für Medizin und Pharmazie in Ho-Chi-Minh-Stadt, wurde die KI in der Medizin im Vergleich zu Bereichen wie Wirtschaft oder Kommunikation bereits mit vielen fortschrittlichen Modellen entwickelt. Die praktische Anwendung erfolgt jedoch noch vorsichtig. „Ärzte sind noch dabei, herauszufinden, ob KI ein ‚Freund‘ oder ein ‚Feind‘ ist“, so Dr. Le Minh Khoi.

Laut dem außerordentlichen Professor Dr. Le Minh Khoi birgt der Einsatz von KI im medizinischen Bereich eine Reihe potenzieller Risiken, wie etwa Datensicherheit und Datenschutz, Verzerrungen in Algorithmen und ethische Fragen sowie Probleme der Sicherheit, Verantwortung und Transparenz...

Eines der größten Risiken ist die „Illusion“ der KI. Treten Fehler in einem weit verbreiteten System auf, könnten die Folgen Tausende von Patienten betreffen. Auch die Frage der Haftung ist heikel: Verursacht die KI Fehler bei Diagnose oder Behandlung, wer trägt dann die Verantwortung – der Arzt, der das System nutzt, der Systementwickler, der Vertriebspartner, das Krankenhaus oder die Aufsichtsbehörde?

Konferenzszene – Foto: Organisationskomitee

Zudem besteht die Gefahr, dass Ärzte, die sich zu sehr auf KI verlassen, ihre Fähigkeit zum kritischen Denken und zur klinischen Beurteilung verlieren und nach und nach die Fähigkeit einbüßen, Fehler zu erkennen und zu korrigieren. Menschliche Aufsicht bleibt daher unerlässlich. Darüber hinaus führen konservative Ansichten, die Angst vor Arbeitsplatzverlust oder mangelndes Technologieverständnis dazu, dass viele medizinische Fachkräfte KI nur zögerlich einsetzen.

Bezüglich der rechtlichen Herausforderungen erklärte Privatdozent Dr. Le Minh Khoi, dass die Geschwindigkeit der KI-Entwicklung derzeit die Kapazitäten des Regulierungssystems bei Weitem übersteigt. Die Technologie entwickelt sich zu schnell, während die Regulierung zu langsam ist. Dies führt zu einer Art Zwickmühle zwischen zwei Extremen: Eine Verschärfung der Vorschriften würde Innovationen ersticken, eine Lockerung hingegen birgt Risiken für die Patienten. Hinzu kommt, dass die medizinische Dateninfrastruktur in Vietnam nach wie vor fragmentiert, inkonsistent und von uneinheitlicher Qualität ist, was das Training und Testen von KI-Modellen erschwert.

Herr Khoi kam zu dem Schluss, dass KI eine große Chance für die Medizinbranche darstellt, aber gleichzeitig auch eine Bewährungsprobe für die Anpassungsfähigkeit, Aufgeschlossenheit und Verantwortungsbereitschaft des Menschen im digitalen Zeitalter ist.

Quelle: https://nld.com.vn/chuyen-gia-gop-y-khong-voi-luat-hoa-ai-196251007140039549.htm