9 Grundsätze für verantwortungsvolle KI-Forschung und -Entwicklung

Illustrationsfoto. Quelle: VNA

Dementsprechend werden wissenschaftliche und technologische Agenturen, Organisationen, Unternehmen und Einzelpersonen, die sich mit der Forschung, dem Design, der Entwicklung und der Bereitstellung von KI-Systemen befassen, ermutigt, die Inhalte des Leitfadens anzuwenden.

Es werden neun Grundsätze für eine verantwortungsvolle Forschung und Entwicklung von KI-Systemen vorgeschlagen, darunter: Kooperationsgeist, Förderung von Innovation; Transparenz; Kontrollierbarkeit; sicher; Sicherheit; Privatsphäre; Achtung der Menschenrechte und der Menschenwürde; Benutzerunterstützung; Rechenschaftspflicht

Zu jedem Prinzip gibt es Anweisungen zur Umsetzung. Im Hinblick auf die Transparenz müssen Entwickler beispielsweise auf die Kontrolle der Ein- und Ausgaben des KI-Systems und die Fähigkeit zur Erklärung relevanter Analysen achten. Dementsprechend handelt es sich bei KI-Systemen, die diesem Grundsatz entsprechen, typischerweise um Systeme, die das Leben, den Körper, die Privatsphäre oder das Eigentum von Benutzern oder relevanten Dritten beeinträchtigen können.

Entwickler müssen dann darauf achten, dass die Eingaben und Ausgaben von KI-Systemen sowie die damit verbundene Erklärbarkeit anhand der Merkmale der angewandten Technologie und ihrer Verwendung klar identifiziert werden können, um das Vertrauen der Gesellschaft, einschließlich der Benutzer, zu gewinnen.

Oder was den Grundsatz der Achtung der Menschenrechte und der Menschenwürde betrifft: Bei der Entwicklung von KI-Systemen, an denen Menschen beteiligt sind, müssen die Entwickler besonders darauf achten, die Menschenrechte und die Menschenwürde der beteiligten Personen zu respektieren.

Soweit möglich und abhängig von den Eigenschaften der angewandten Technologie sollten Entwickler Maßnahmen ergreifen, um sicherzustellen, dass sie beim Trainieren von KI-Systemen keine Diskriminierung oder Ungerechtigkeit aufgrund von Verzerrungen (Vorurteilen) in den Daten verursachen.

Entwickler müssen Vorkehrungen treffen, um sicherzustellen, dass KI-Systeme nicht gegen menschliche Werte und soziale Ethik gemäß den Grundprinzipien Vietnams verstoßen (z. B. Werte wie Patriotismus, Solidarität, Eigenständigkeit, Loyalität, Ehrlichkeit, Verantwortung, Disziplin, Kreativität usw.).

Aus den Bewertungsergebnissen und der Ankündigung im Bericht „Government AI Readiness Index“ von Oxford Insight geht hervor, dass Vietnam im Jahr 2023 in der ASEAN auf den 5. Platz aufstieg und die Philippinen überholte (nach Singapur, Malaysia, Thailand und Indonesien). Im Jahr 2023 erreichte Vietnams Durchschnittspunktzahl 54,48 Punkte (2022 waren es 53,96 und 2021 51,82 Punkte) und übertraf damit den Weltdurchschnitt . Vietnam belegte den 59. Platz von mehr als 193 Ländern und Gebieten (2022 lag es auf Platz 55 von 181 Ländern und Gebieten).

Nach Angaben des Ministeriums für Wissenschaft und Technologie ist es im gegenwärtigen Kontext notwendig, Forschung zu betreiben und Maßnahmen zu ergreifen, um die Risiken bei der Entwicklung und Nutzung von KI zu minimieren und die damit verbundenen wirtschaftlichen, ethischen und rechtlichen Faktoren abzuwägen. Daher müssen professionelle Agenturen Standards und Leitlinien erforschen und entwickeln, auch wenn es sich dabei um weiche und unverbindliche Vorschriften handelt.

Darüber hinaus wird die gemeinsame Nutzung und der Austausch von Informationen über Prozesse und bewährte Verfahren zwischen den Beteiligten (wie Entwicklern, Dienstanbietern, Benutzern) auch den Konsens zur Steigerung des Nutzens von KI-Systemen und zur Kontrolle von Risiken fördern.

Das Ministerium für Wissenschaft und Technologie hat proaktiv die Erfahrungen anderer Länder und Empfehlungen von Organisationen wie UNESCO, UN, ASEAN, G7, G20 usw. untersucht, um Empfehlungen, Tools und Vorschriften zur Ethik in der KI zu entwickeln und verantwortungsvolle KI-Produkte (von der Forschung, dem Design, der Entwicklung bis hin zum Einsatz von KI-Produkten) in Übereinstimmung mit den aktuellen Praktiken und Vorschriften in Vietnam zu entwickeln.

  Der stellvertretende Minister für Wissenschaft und Technologie, Bui The Duy, sagte außerdem, dass die Entwicklung von Richtlinien für eine verantwortungsvolle KI-Forschung und -Entwicklung in Vietnam eng an den Zielen einer menschenzentrierten Gesellschaft ausgerichtet sein müsse, in der die Menschen sowohl vom Leben als auch von KI-Systemen profitieren. Gleichzeitig muss ein angemessenes Gleichgewicht zwischen den Vorteilen und Risiken von KI-Systemen sichergestellt werden, und zwar insbesondere: Förderung der Vorteile von KI durch Forschungs-, Entwicklungs- und Innovationsaktivitäten; und minimieren Sie das Risiko einer Verletzung der legitimen Rechte oder Interessen von Organisationen und Einzelpersonen durch KI-Systeme.

Stellen Sie sicher, dass die Forschungs- und Entwicklungsaktivitäten für KI-Systeme auf bestimmten Technologien oder Techniken basieren, gleichzeitig aber die Technologieneutralität gewahrt bleibt und dass die Entwickler nicht von der rasanten Entwicklung KI-bezogener Technologien in der Zukunft betroffen sind.

Das Ministerium für Wissenschaft und Technologie teilte außerdem mit, dass die Grundsätze und Richtlinien weiterhin erforscht und an die praktische Situation angepasst werden./.

Quelle: https://dangcongsan.vn/khoa-hoc/9-nguyen-tac-nghien-cuu-phat-trien-he-thong-ai-co-trach-nhiem-667349.html