Kernpunkte des historischen Abkommens der EU zur KI-Governance

[Anzeige_1]

Die Gesetzgeber werden in den kommenden Wochen weiterhin über die detaillierten Regelungen diskutieren, sodass der endgültige Prozess Anfang nächsten Jahres abgeschlossen werden kann und voraussichtlich ab 2026 gelten wird.

Bis dahin werden Unternehmen ermutigt, dem freiwilligen KI-Pakt beizutreten, um die wichtigsten Verpflichtungen der Regeln umzusetzen.

Nachfolgend sind die wichtigsten Inhalte des von der EU vereinbarten Abkommens aufgeführt.

Hochrisikosystem

Sogenannte KI-Systeme mit hohem Risiko – also solche, die voraussichtlich erhebliche Schäden für Gesundheit, Sicherheit, Grundrechte, Umwelt, Demokratie, Wahlen und Rechtsstaatlichkeit verursachen – müssen eine Reihe von Anforderungen erfüllen. So müssen sie beispielsweise Tests durchlaufen, in denen die Auswirkungen auf die Grundrechte und die Verpflichtungen zum Marktzugang der EU bewertet werden.

Huenit, eine auf einem Roboterarm montierte KI-Kamera auf einer Verbrauchertechnologiemesse in Berlin am 1. September 2023. Foto: Reuters

Für Systeme mit geringem Risiko würden unterdessen weniger Transparenzpflichten gelten, beispielsweise die Kennzeichnung von KI-generierten Inhalten, damit die Benutzer deren Verwendung in Erwägung ziehen können.

KI in der Strafverfolgung

Strafverfolgungsbehörden dürfen biometrische Echtzeit-Fernidentifizierungssysteme nur im öffentlichen Raum einsetzen, um Opfer von Entführungen, Menschenhandel und sexueller Ausbeutung zu identifizieren und um konkrete und unmittelbar bevorstehende terroristische Bedrohungen zu verhindern.

Den Behörden wird es außerdem gestattet sein, KI-Technologie einzusetzen, um Verdächtige des Terrorismus, des Menschenhandels, der sexuellen Ausbeutung, des Mordes, der Entführung, der Vergewaltigung, des bewaffneten Raubüberfalls, der Beteiligung an einer kriminellen Vereinigung und der Umweltkriminalität aufzuspüren.

Allgemeine und Plattform-KI-Systeme (GPAI)

GPAI und die zugrunde liegenden Modelle unterliegen Transparenzanforderungen, wie z. B. der Erstellung technischer Dokumentationen, der Einhaltung des EU-Urheberrechts und der Veröffentlichung detaillierter Zusammenfassungen der zum Trainieren der Algorithmen verwendeten Inhalte.

Plattformmodelle, die in die Kategorie „potenziell systemische Risiken erzeugend“ und „GPAI mit hoher Auswirkung“ fallen, müssen eine allgemeine Modellbewertung durchführen, Risiken prüfen und mindern, Reverse Engineering durchführen, die Europäische Kommission über schwerwiegende Vorfälle informieren, die Cybersicherheit gewährleisten und über den Energieverbrauch Bericht erstatten.

Roboter „Rmeca“ auf dem Good Global Summit in Genf, Schweiz. Foto: Reuters

Bis zur Veröffentlichung harmonisierter EU-Standards laufen GPAIs Gefahr, sich bei der Einhaltung von Vorschriften auf Verhaltenskodizes zu verlassen.

Verbotene KI-Systeme

Zu den verbotenen Verhaltensweisen und Inhalten gehören: Biometrische Klassifizierungssysteme, die sensible Merkmale wie politische , religiöse und philosophische Überzeugungen, sexuelle Orientierung und Rasse verwenden;

Nicht zielgerichtetes Scannen von Gesichtsbildern aus dem Internet oder von Videoüberwachungsaufnahmen zur Erstellung einer Gesichtserkennungsdatenbank;

Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen ;

Social Scoring basiert auf sozialem Verhalten oder persönlichen Eigenschaften;

KI-Systeme manipulieren menschliches Verhalten, um ihren freien Willen zu untergraben;

KI wird eingesetzt, um menschliche Schwächen aufgrund ihres Alters, einer Behinderung oder ihrer wirtschaftlichen oder sozialen Umstände auszunutzen.

Sanktionen

Je nach Verstoß und Größe des betroffenen Unternehmens beginnen die Geldbußen bei 7,5 Millionen Euro (8 Millionen US-Dollar) oder 1,5 Prozent des weltweiten Jahresumsatzes und steigen auf bis zu 35 Millionen Euro oder 7 Prozent des weltweiten Umsatzes.

(Laut Reuters)

EU erzielt historische Einigung zur Regulierung künstlicher Intelligenz

Eine Vereinbarung zwischen dem Europäischen Parlament und den Mitgliedstaaten wird künstliche Intelligenz (KI), soziale Medien und Suchmaschinen regeln.

EU erzielt Einigung zum Smart Device Protection Act

Am 30. November erzielten die EU-Gesetzgeber eine vorläufige Einigung über einen Vorschlag zum Schutz vernetzter Geräte. Dieser sieht vor, dass Produkte mit digitalen Elementen vor ihrer Verbreitung auf dem Markt über Cybersicherheit verfügen müssen.

EU geht hart gegen Tech-Giganten vor und droht mit der Zerschlagung von Unternehmen, die gegen die Vorschriften verstoßen

Die Europäische Union (EU) verschärft die Kontrolle großer Technologieunternehmen weiterhin mit strengen Sanktionen. Diese können Geldbußen von 10 bis 20 Prozent des weltweiten Umsatzes nach sich ziehen und sogar die Aufspaltung von Unternehmen erzwingen, die sich nicht an die Vorschriften halten.

[Anzeige_2]
Quelle