Lovgiverne vil fortsette å diskutere detaljerte forskrifter i de kommende ukene med sikte på å ferdigstille prosessen tidlig neste år, med planen om å gjelde fra 2026.

Inntil da oppfordres selskaper til å melde seg på den frivillige AI-pakten for å oppfylle de viktigste forpliktelsene i reglene.

Nedenfor er hovedinnholdet i avtalen som EU har inngått.

Høyrisikosystem

Såkalte høyrisiko-KI-systemer – de som anses å kunne forårsake betydelig skade på helse, sikkerhet, grunnleggende rettigheter, miljøet, demokratiet, valg og rettsstaten – må oppfylle en rekke krav, som å gjennomgå konsekvensutredninger av grunnleggende rettigheter og EUs forpliktelser til markedsadgang.

eltqxowexvjbnmywubkxiyj3ha.jpg
Huenit, et AI-kamera montert på en robotarm på en forbrukerteknologimesse som ble holdt i Berlin 1. september 2023. Foto: Reuters

Lavrisikosystemer vil i mellomtiden være underlagt lettere transparensforpliktelser, som å merke AI-generert innhold slik at brukere kan vurdere å bruke det.

AI i rettshåndhevelse

Politimyndigheter har kun tillatelse til å bruke biometriske identifikasjonssystemer i sanntid på offentlige steder, for å identifisere ofre for kidnapping, menneskehandel og seksuell utnyttelse, og for å forhindre spesifikke og overhengende terrortrusler.

Myndighetene vil også få lov til å bruke AI-teknologi til å spore mistenkte for terrorisme, menneskehandel, seksuell utnyttelse, drap, kidnapping, voldtekt, væpnet ran, deltakelse i en kriminell organisasjon og miljøkriminalitet.

Generelle og plattformbaserte AI-systemer (GPAI)

GPAI og de underliggende modellene vil være underlagt krav til åpenhet, som å produsere teknisk dokumentasjon, overholde EUs opphavsrettslovgivning og publisere detaljerte sammendrag av innholdet som brukes til å trene algoritmene.

Plattformmodeller som faller inn under kategorien potensielt systemisk risikoskapende og GPAI med høy innvirkning vil bli pålagt å gjennomføre en generell modellvurdering, gjennomgå og redusere risikoer, utføre reverse engineering-testing, varsle EU-kommisjonen om alvorlige hendelser, sikre cybersikkerhet og rapportere om energiforbruk.

owaad7543vnahei6k3ozfuuo5u.jpg
Roboten «Rmeca» på Good Global Summit i Genève, Sveits. Foto: Reuters

Inntil EUs harmoniserte standarder er publisert, er GPAI-er i systemisk risiko for å stole på retningslinjer for å overholde regelverket.

AI-systemer er forbudt

Forbudt oppførsel og innhold inkluderer: Biometriske klassifiseringssystemer som bruker sensitive kjennetegn som politikk , religion, filosofisk tro, seksuell legning og rase;

Ikke-målrettet skanning av ansiktsbilder fra Internett eller CCTV-opptak for å opprette en database for ansiktsgjenkjenning;

Følelsesgjenkjenning på arbeidsplassen og i utdanningsmiljøer ;

Sosial poengsum basert på sosial atferd eller personlige egenskaper;

AI-systemer manipulerer menneskelig atferd for å undergrave deres frie vilje;

AI brukes til å utnytte menneskelige svakheter på grunn av alder, funksjonshemming, økonomiske eller sosiale omstendigheter.

Sanksjoner

Avhengig av overtredelsen og størrelsen på det involverte selskapet, vil bøtene starte på 7,5 millioner euro (8 millioner dollar) eller 1,5 % av den årlige globale omsetningen, og øke til 35 millioner euro eller 7 % av den globale omsetningen.

(Ifølge Reuters)

EU inngår historisk avtale om å regulere kunstig intelligens

EU inngår historisk avtale om å regulere kunstig intelligens

En avtale mellom Europaparlamentet og medlemslandene skal regulere kunstig intelligens (KI), sosiale medier og søkemotorer.
EU enes om lov om beskyttelse av smartenheter

EU enes om lov om beskyttelse av smartenheter

30. november inngikk EU-lovgivere en foreløpig enighet om et forslag for å beskytte tilkoblede enheter, som krever cybersikkerhetssikring for produkter med digitale elementer før de tas i bruk i dette markedet.
EU går hardt inn mot teknologigiganter og truer med å oppløse selskaper som krenker regelverket

EU går hardt inn mot teknologigiganter og truer med å oppløse selskaper som krenker regelverket

Den europeiske union (EU) fortsetter å stramme inn styringen av store teknologiselskaper med strenge sanksjoner, som kan ilegge bøter på 10–20 % av den globale inntekten, og til og med tvinge frem oppdeling av selskaper som ikke overholder regelverket.