Dem Entwurf zufolge basiert der Katalog für KI-Systeme mit hohem Risiko auf der Bewertung von Risikoklassifizierungskriterien für jeden spezifischen Anwendungsfall, um Klarheit, Transparenz und Machbarkeit bei der Umsetzung zu gewährleisten.
Ein KI-System wird klassifiziert, wenn es die folgenden Prinzipien erfüllt: Seine Ergebnisse werden als Grundlage oder Faktor verwendet, der Entscheidungen in Bezug auf die Rechte, Pflichten und berechtigten Interessen von Organisationen und Einzelpersonen maßgeblich beeinflusst; es wird durch seinen Zweck und Kontext der Nutzung bestimmt, nicht allein durch Technologie, Algorithmen oder Modelle; und es birgt das Risiko schwerwiegender, irreparabler Folgen, wenn Fehler oder Fehlfunktionen auftreten.
Darüber hinaus werden auch Systeme mit breitem Einsatzspektrum und großen Auswirkungen, Risiken, die durch geltende Rechtsvorschriften nicht vollständig kontrolliert werden können, sowie die Möglichkeit der einheitlichen Anwendung von Managementpflichten berücksichtigt.
Die Kategorie der Systeme künstlicher Intelligenz mit hohem Risiko wird auf der Grundlage einer Bewertung von Risikoklassifizierungskriterien zur Identifizierung spezifischer Anwendungsfälle bestimmt.
Der Entwurf nennt fünf Kriteriengruppen als Grundlage für die Klassifizierung:
Erstens beeinträchtigt es die Menschenrechte sowie die legitimen Rechte und Interessen von Organisationen und Einzelpersonen. Dies umfasst Systeme, die das Potenzial haben, das Recht auf Leben, das Recht auf Gesundheitsschutz, das Recht auf persönliche Freiheit, das Recht auf Privatsphäre, das Recht auf Gleichheit und Nichtdiskriminierung, das Recht auf Zugang zu grundlegenden Dienstleistungen und andere gesetzlich festgelegte Rechte unmittelbar und erheblich zu beeinträchtigen.
Zweitens handelt es sich bei Systemen, die mit Sicherheit und öffentlichem Interesse in Zusammenhang stehen, um solche, die die soziale Ordnung und Sicherheit, die Cybersicherheit und die Informationssicherheit ernsthaft beeinträchtigen können; die Gefahr laufen, missbraucht oder manipuliert zu werden, um die nationale Sicherheit zu gefährden; oder die als Sicherheitskomponenten in risikoreichen Produkten und Gütern verwendet werden.
Drittens, das Anwendungsgebiet und der Anwendungskontext. Entwurf Besonderes Augenmerk sollte auf KI-Systeme gelegt werden, die in wichtigen Sektoren oder solchen mit direkten Auswirkungen auf das soziale Leben eingesetzt werden, wie z. B. Gesundheitswesen, Bildung , Arbeit und Beschäftigung, Finanzen, Kreditwesen, Versicherungen, Transportwesen, Energie, wichtige Infrastruktur, Staatsverwaltung und Justiz; oder solche, die staatliche Verwaltungstätigkeiten unterstützen und öffentliche Dienstleistungen erbringen.
Viertens der Automatisierungsgrad und die Rolle der menschlichen Steuerung. Dies umfasst automatisierte Systeme, die Entscheidungen treffen oder Empfehlungen mit erheblichem Einfluss abgeben, und berücksichtigt auch die Fähigkeit des Menschen, das System während des Betriebs zu überwachen, einzugreifen, anzupassen oder anzuhalten.
Fünftens, der Nutzerkreis und das Ausmaß der Auswirkungen. Dies basiert auf der Anzahl der direkt oder indirekt betroffenen Personen, dem Umfang des Einsatzes, dem Potenzial für Kaskadeneffekte und dem Ausmaß langfristiger Folgen, die im Falle eines Vorfalls oder Missbrauchs schwer zu beheben sind.
Auf Grundlage der oben genannten Kriterien schlägt der Entwurf eine Liste von KI-Systemen mit hohem Risiko vor, die sich in vier Gruppen unterteilen lässt:
Gruppe I: KI-Systeme mit Auswirkungen auf die Menschenrechte.
Gruppe II: KI-Systeme mit Auswirkungen auf Sicherheit und Schutz.
Gruppe III: KI-Systeme in wichtigen Sektoren, die eng mit dem öffentlichen Interesse verbunden sind.
Gruppe IV: KI-Systeme mit weitreichenden Auswirkungen oder Folgen, die schwer zu beheben sind.
Die Veröffentlichung der Liste soll eine wichtige rechtliche Grundlage für das Management, die Überwachung und die Kontrolle von Risiken bei der Entwicklung und dem Einsatz von KI schaffen und gleichzeitig ein Gleichgewicht zwischen der Förderung von Innovationen und dem Schutz der legitimen Rechte und Interessen von Menschen, Organisationen und der Gesellschaft gewährleisten.
Der vollständige Entwurf wird derzeit einem öffentlichen Konsultationsprozess unterzogen, um ihn vor der Vorlage an die zuständigen Behörden zur Prüfung und Entscheidung abzuschließen.
Zentrum für Wissenschafts- und Technologiekommunikation
Quelle: https://mst.gov.vn/de-xuat-danh-muc-he-thong-tri-tue-nhan-tao-co-rui-ro-cao-siet-quan-ly-cac-ung-dung-tac-dong-lon-den-xa-hoi-197260216132429727.htm
Kommentar (0)