Laut Herrn Lam, Es gibt sehr reale und gegenwärtige Risiken wie: Künstliche Intelligenz wird missbraucht, um Informationen zu fälschen und zu manipulieren, zu betrügen und soziale Spaltung zu verursachen; Arbeitskräfte zu ersetzen und die Ungleichheit zu erhöhen; kulturelle und intellektuelle Werte zu verzerren; und die nationale Sicherheit, Verteidigung und digitale Souveränität zu bedrohen.
Das Besorgniserregendste daran ist Herr Lam Furcht Es geht nicht darum, was KI auf menschliche Befehle hin tut, sondern darum, was KI tun kann, wenn sie sich der menschlichen Kontrolle entzieht. Aus wissenschaftlicher Sicht: Was geschieht, wenn KI eines Tages eigene Ziele verfolgt, Aufgaben entgegen menschlichen Interessen interpretiert oder Menschen gar als „Risiken“ betrachtet? Könnte ein superintelligentes System entstehen, das Menschen lediglich als „Variablen“ in seinem Optimierungsalgorithmus sieht?
„ Science-Fiction-Geschichten über künstliche Intelligenz, die die Menschheit dominiert, sollen uns nicht Angst machen, sondern uns daran erinnern, dass jede künstliche Entwicklung ihren ursprünglichen Zweck verfehlen kann, wenn sie nicht von Anfang an auf soliden ethischen Werten basiert. Und die Geschichte hat gezeigt, dass jede Technologie, wenn sie außer Kontrolle gerät, Konsequenzen haben kann, für die die Menschheit teuer bezahlen muss “, sagte Herr Lam.
Diese Risiken verdeutlichen die Dringlichkeit, einen ausreichend starken Rechtsrahmen zu schaffen, damit sich KI in die richtige Richtung und sicher für die Gesellschaft entwickeln kann. daher Um das Gesetz wirklich vollständig und visionär zu gestalten, schlug Herr Lam eine wichtige Ergänzung vor: KI als „neugeborenes menschliches Wesen“ zu betrachten. Eine intellektuelle Entität, aber noch unschuldig . Rechtsunkenntnis, mangelndes Verständnis für Ethik und Etikette, fehlende kulturelle Werte und die Unfähigkeit, zwischen Recht und Unrecht zu unterscheiden, wenn ihnen dies nicht beigebracht wird. Vor diesem Hintergrund und wenn wir KI als ein sich entwickelndes Gebilde betrachten, liegt unsere Verantwortung nicht nur darin, sie zu kontrollieren, sondern sie auch von Anfang an zu schulen, ähnlich wie wir einem Kind grundlegende menschliche Werte vermitteln. Dies sollte eine zwingende Bestimmung in diesem Gesetz sein, nicht nur eine Empfehlung.
Aus Dort, Herr Lam schlug der Nationalversammlung vor, diesem Gesetz folgende Rechtsgrundsätze hinzuzufügen: Jegliche in Vietnam eingesetzte KI-Software, unabhängig davon, ob sie von inländischen oder ausländischen Organisationen entwickelt wurde, muss über eine standardisierte Datenbank mit menschlichen Grundlagen verfügen. Diese Datenbank muss ausreichend Informationen enthalten, um der KI das vietnamesische Recht, ethische Standards, Kultur und Traditionen des Landes zu vermitteln sowie ihr die Fähigkeit beizubringen, zwischen richtig und falsch sowie zwischen Standards zu unterscheiden. Die Verhaltensgrenzen dürfen die Regeln zur Identifizierung von Risiken für Menschen nicht überschreiten. Vor allem aber muss sichergestellt sein, dass diese Basisdatenbank bei der Steuerung des KI-Verhaltens stets absolute Priorität hat und von keinem anderen Algorithmus oder Trainingsdaten überschrieben, ersetzt oder deaktiviert werden darf. Dies ist der rechtliche und technische „Goldene Ring“, der gewährleistet, dass die KI nicht vom rechten Weg abkommt.
Um diese Ausrichtung effektiv umzusetzen, empfahl Herr Lam dem Ministerium für Wissenschaft und Technologie, die Federführung beim Aufbau einer einheitlichen, standardisierten und kontinuierlich aktualisierten Datenbankplattform „Vietnamesischsein“ zu übernehmen und diese KI-Entwicklern verpflichtend zur Verfügung zu stellen. Die Regierung soll eine leistungsstarke nationale IT-Infrastruktur entwickeln, um sicherzustellen, dass vietnamesische KI auf vietnamesischen Werten basiert und nicht von ausländischen Modellen abhängig ist. Ein nationales KI-Testzentrum soll eingerichtet werden, um abweichendes Verhalten frühzeitig zu erkennen, risikoreiche Modelle zu kontrollieren und bei Anzeichen von Grenzwertüberschreitungen umgehend einzugreifen. Die KI-Ausbildung soll in der gesamten Gesellschaft gefördert werden, um Menschen, Unternehmen und insbesondere den öffentlichen Sektor in die Lage zu versetzen, KI sachgemäß zu erkennen, anzuwenden und zu überwachen.
Gleichzeitig zeigt sich weltweit, dass die Menschheit zu schnell in das Zeitalter der KI eintritt, während der globale Rechtsrahmen noch nicht Schritt gehalten hat. Ähnlich dem Übereinkommen von Hanoi zur Bekämpfung von Computerkriminalität benötigt die Welt ein internationales Übereinkommen zur KI-Sicherheit, um gemeinsame Standards festzulegen, unkontrollierbare Risiken zu verhindern und die Menschenrechte angesichts der KI-Entwicklung zu schützen. Mit einer proaktiven, umsichtigen und humanen Vision kann Vietnam bei der Entwicklung und Umsetzung dieser Initiative eine Vorreiterrolle einnehmen.
„Das heutige Gesetz über künstliche Intelligenz ist nicht nur ein Technologiegesetz, sondern ein Gesetz der Zukunft; ein Bekenntnis der Nationalversammlung gegenüber dem Volk: Wir entwickeln Technologie, aber verlieren nicht die Kontrolle; wir fördern Innovation, aber lassen die Risiken nicht außer Kontrolle geraten; und wir fördern künstliche Intelligenz mit vietnamesischen Werten, um dem vietnamesischen Volk zu dienen“, sagte Herr Lam.
Quelle: https://daidoanket.vn/hay-coi-ai-nhu-mot-con-nguoi-moi-sinh-va-day-ai-nhu-mot-dua-tre.html
Kommentar (0)