9 Grundsätze für verantwortungsvolle KI-Forschung und -Entwicklung

Illustratives Foto. Quelle: VNA

Dementsprechend werden wissenschaftliche und technologische Agenturen, Organisationen, Unternehmen und Einzelpersonen, die sich mit der Forschung, dem Design, der Entwicklung und der Bereitstellung von KI-Systemen befassen, ermutigt, den Inhalt des Leitfadens anzuwenden.

Zu den neun Grundsätzen für verantwortungsvolle KI-Forschung und -Entwicklung gehören: Zusammenarbeit, Innovation, Transparenz, Kontrolle, Sicherheit, Datenschutz, Achtung der Menschenrechte und der Menschenwürde, Benutzerunterstützung und Rechenschaftspflicht.

Jedes Prinzip hat seine eigenen Umsetzungsrichtlinien. Aus Gründen der Transparenz müssen Entwickler beispielsweise auf die Kontrolle der Ein- und Ausgabe des KI-Systems und die Möglichkeit zur Erklärung der relevanten Analyse achten. Dementsprechend handelt es sich bei KI-Systemen, die diesem Prinzip entsprechen, häufig um Systeme, die das Leben, den Körper, die Privatsphäre oder das Eigentum von Nutzern oder verwandten Dritten beeinträchtigen können.

Entwickler müssen dann darauf achten, dass die Eingaben und Ausgaben von KI-Systemen sowie die damit verbundene Erklärbarkeit anhand der Merkmale der angewandten Technologie und ihrer Verwendung klar identifiziert werden können, um das Vertrauen der Gesellschaft, einschließlich der Benutzer, zu gewährleisten.

Oder was den Grundsatz der Achtung der Menschenrechte und der Menschenwürde betrifft: Bei der Entwicklung von KI-Systemen, an denen Menschen beteiligt sind, müssen die Entwickler besonders darauf achten, die Menschenrechte und die Menschenwürde der beteiligten Personen zu respektieren.

Soweit möglich und abhängig von den Eigenschaften der angewandten Technologie sollten Entwickler Maßnahmen ergreifen, um sicherzustellen, dass sie beim Trainieren von KI-Systemen keine Diskriminierung oder Ungerechtigkeit aufgrund von Verzerrungen (Vorurteilen) in den Daten verursachen.

Entwickler müssen Vorkehrungen treffen, um sicherzustellen, dass KI-Systeme nicht gegen menschliche Werte und soziale Ethik gemäß den Grundprinzipien Vietnams verstoßen (z. B. Werte wie Patriotismus, Solidarität, Eigenständigkeit, Loyalität, Ehrlichkeit, Verantwortung, Disziplin, Kreativität usw.).

Aus den Bewertungsergebnissen und der Ankündigung im Bericht „Government AI Readiness Index“ von Oxford Insight geht hervor, dass Vietnam im Jahr 2023 in der ASEAN auf den 5. Platz aufstieg und die Philippinen überholte (nach Singapur, Malaysia, Thailand und Indonesien). Im Jahr 2023 erreichte Vietnam einen Durchschnittswert von 54,48 Punkten (2022 waren es 53,96 und 2021 51,82 Punkte) und übertraf damit den Weltdurchschnitt . Vietnam belegte den 59. Platz von mehr als 193 Ländern und Gebieten (2022 war es der 55. Platz von 181 Ländern und Gebieten).

Nach Angaben des Ministeriums für Wissenschaft und Technologie ist es im gegenwärtigen Kontext notwendig, Forschung zu betreiben und Maßnahmen zu ergreifen, um die Risiken bei der Entwicklung und Nutzung von KI zu minimieren und die damit verbundenen wirtschaftlichen, ethischen und rechtlichen Faktoren abzuwägen. Daher müssen spezialisierte Agenturen Standards und Leitlinien erforschen und entwickeln, auch wenn es sich dabei um weiche und unverbindliche Vorschriften handelt.

Darüber hinaus wird der Austausch von Informationen über Prozesse und bewährte Verfahren zwischen den Beteiligten (wie Entwicklern, Dienstanbietern, Benutzern) auch den Konsens fördern, um den Nutzen von KI-Systemen zu steigern und Risiken zu kontrollieren.

Das Ministerium für Wissenschaft und Technologie hat proaktiv die Erfahrungen anderer Länder und Empfehlungen von Organisationen wie UNESCO, UN, ASEAN, G7, G20 usw. untersucht, um Empfehlungen, Tools und Vorschriften zur Ethik in der KI zu entwickeln und verantwortungsvolle KI-Produkte (von der Forschung, dem Design, der Entwicklung und dem Einsatz von KI-Produkten) in Übereinstimmung mit den aktuellen Praktiken und Vorschriften in Vietnam zu entwickeln.

  Der stellvertretende Minister für Wissenschaft und Technologie, Bui The Duy, sagte außerdem, dass die Entwicklung von Richtlinien für verantwortungsvolle KI-Forschung und -Entwicklung in Vietnam eng an den Zielen einer menschenzentrierten Gesellschaft ausgerichtet sein müsse, in der die Menschen sowohl die Vorteile des Lebens als auch die Vorteile von KI-Systemen genießen. Gleichzeitig müsse ein angemessenes Gleichgewicht zwischen den Vorteilen und Risiken von KI-Systemen sichergestellt werden, insbesondere: Die Vorteile von KI durch Forschungs-, Entwicklungs- und Innovationsaktivitäten zu fördern und das Risiko einer Verletzung der Rechte oder berechtigten Interessen von Organisationen und Einzelpersonen durch KI-Systeme zu minimieren.

Stellen Sie sicher, dass die Forschungs- und Entwicklungsaktivitäten für KI-Systeme auf bestimmten Technologien oder Techniken basieren und gleichzeitig die Technologieneutralität gewährleistet ist. Außerdem müssen Sie dafür sorgen, dass die Entwickler künftig nicht von der rasanten Entwicklung KI-bezogener Technologien betroffen sind.

Das Ministerium für Wissenschaft und Technologie teilte außerdem mit, dass die Grundsätze und Richtlinien weiterhin erforscht und an die praktische Situation angepasst werden./.

Quelle: https://dangcongsan.vn/khoa-hoc/9-nguyen-tac-nghien-cuu-phat-trien-he-thong-ai-co-trach-nhiem-667349.html