Kernpunkte des historischen Abkommens der EU zur KI-Governance

[Anzeige_1]

Die Gesetzgeber werden in den kommenden Wochen weiterhin über detaillierte Regelungen diskutieren, um den Prozess Anfang nächsten Jahres abzuschließen. Die Regelung soll ab 2026 gelten.

Bis dahin werden Unternehmen ermutigt, dem freiwilligen KI-Pakt beizutreten, um die wichtigsten Verpflichtungen der Vorschriften zu erfüllen.

Nachfolgend sind die wichtigsten Inhalte des von der EU vereinbarten Abkommens aufgeführt.

Hochrisikosystem

Sogenannte KI-Systeme mit hohem Risiko – also solche, die voraussichtlich erhebliche Schäden für Gesundheit, Sicherheit, Grundrechte, Umwelt, Demokratie, Wahlen und Rechtsstaatlichkeit verursachen – müssen eine Reihe von Anforderungen erfüllen, beispielsweise Folgenabschätzungen in Bezug auf Grundrechte und Verpflichtungen zum Marktzugang der EU.

Huenit, eine auf einem Roboterarm montierte KI-Kamera auf einer Verbrauchertechnologiemesse in Berlin am 1. September 2023. Foto: Reuters

Für Systeme mit geringem Risiko würden unterdessen weniger Transparenzpflichten gelten, beispielsweise die Kennzeichnung von KI-generierten Inhalten, damit die Benutzer deren Verwendung in Erwägung ziehen können.

KI in der Strafverfolgung

Strafverfolgungsbehörden dürfen biometrische Echtzeit-Fernidentifizierungssysteme nur im öffentlichen Raum einsetzen, um Opfer von Entführungen, Menschenhandel und sexueller Ausbeutung zu identifizieren und um konkrete und unmittelbar bevorstehende terroristische Bedrohungen zu verhindern.

Den Behörden wird es außerdem gestattet sein, KI-Technologie einzusetzen, um Verdächtige des Terrorismus, des Menschenhandels, der sexuellen Ausbeutung, des Mordes, der Entführung, der Vergewaltigung, des bewaffneten Raubüberfalls, der Beteiligung an einer kriminellen Vereinigung und der Umweltkriminalität aufzuspüren.

Allgemeine und Plattform-KI-Systeme (GPAI)

GPAI und die zugrunde liegenden Modelle unterliegen Transparenzanforderungen, wie z. B. der Erstellung technischer Dokumentationen, der Einhaltung des EU-Urheberrechts und der Veröffentlichung detaillierter Zusammenfassungen der zum Trainieren der Algorithmen verwendeten Inhalte.

Plattformmodelle, die in die Kategorie „potenziell systemische Risiken erzeugend“ und „GPAI mit hoher Auswirkung“ fallen, müssen eine allgemeine Modellbewertung durchführen, Risiken prüfen und mindern, Reverse-Engineering-Tests durchführen, die Europäische Kommission über schwerwiegende Vorfälle informieren, die Cybersicherheit gewährleisten und über den Energieverbrauch Bericht erstatten.

Roboter „Rmeca“ auf dem Good Global Summit in Genf, Schweiz. Foto: Reuters

Bis zur Veröffentlichung harmonisierter EU-Standards laufen GPAIs Gefahr, sich bei der Einhaltung von Vorschriften auf Verhaltenskodizes zu verlassen.

KI-Systeme sind verboten

Zu den verbotenen Verhaltensweisen und Inhalten gehören: Biometrische Klassifizierungssysteme, die sensible Merkmale wie Politik , Religion, philosophische Überzeugungen, sexuelle Orientierung und Rasse verwenden;

Nicht zielgerichtetes Scannen von Gesichtsbildern aus dem Internet oder von Videoüberwachungsaufnahmen zur Erstellung einer Gesichtserkennungsdatenbank;

Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen ;

Social Scoring basierend auf sozialem Verhalten oder persönlichen Eigenschaften;

KI-Systeme manipulieren menschliches Verhalten, um ihren freien Willen zu untergraben;

KI wird eingesetzt, um menschliche Schwächen aufgrund ihres Alters, einer Behinderung oder ihrer wirtschaftlichen oder sozialen Umstände auszunutzen.

Sanktionen

Je nach Verstoß und Größe des betroffenen Unternehmens beginnen die Geldbußen bei 7,5 Millionen Euro (8 Millionen US-Dollar) oder 1,5 Prozent des weltweiten Jahresumsatzes und steigen auf bis zu 35 Millionen Euro oder 7 Prozent des weltweiten Umsatzes.

(Laut Reuters)

EU erzielt historische Einigung zur Regulierung künstlicher Intelligenz

Eine Vereinbarung zwischen dem Europäischen Parlament und den Mitgliedstaaten wird künstliche Intelligenz (KI), soziale Medien und Suchmaschinen regeln.

EU erzielt Einigung zum Smart Device Protection Act

Am 30. November erzielten die EU-Gesetzgeber eine vorläufige Einigung über einen Vorschlag zum Schutz vernetzter Geräte. Dieser sieht vor, dass Produkte mit digitalen Elementen vor ihrer Einführung auf diesem Markt einer Cybersicherheitsgarantie unterliegen.

EU geht hart gegen Tech-Giganten vor und droht mit der Zerschlagung von Unternehmen, die gegen die Vorschriften verstoßen

Die Europäische Union (EU) verhängt weiterhin strenge Sanktionen gegen die Führung großer Technologieunternehmen. Diese können mit Geldstrafen von 10 bis 20 Prozent des weltweiten Umsatzes belegt werden und Unternehmen, die sich nicht an die Vorschriften halten, sogar zur Spaltung zwingen.

[Anzeige_2]
Quelle