Belangrijkste punten in de historische overeenkomst van de EU over AI-bestuur

De wetgevers zullen de komende weken doorgaan met het bespreken van gedetailleerde regelgeving, zodat het proces begin volgend jaar kan worden afgerond. Het is de bedoeling dat de regelgeving vanaf 2026 ingaat.

Tot die tijd worden bedrijven aangemoedigd om zich aan te sluiten bij het vrijwillige AI-pact, om zo aan de belangrijkste verplichtingen van de regels te voldoen.

Hieronder vindt u de belangrijkste inhoud van de overeenkomst die de EU heeft gesloten.

Systeem met hoog risico

Zogenaamde AI-systemen met een hoog risico – systemen waarvan wordt aangenomen dat ze aanzienlijke schade kunnen toebrengen aan de gezondheid, veiligheid, fundamentele rechten, het milieu, de democratie, verkiezingen en de rechtsstaat – zullen moeten voldoen aan een reeks vereisten, zoals het ondergaan van effectbeoordelingen op fundamentele rechten en verplichtingen inzake markttoegang in de EU.

Huenit, een AI-camera gemonteerd op een robotarm op een consumententechnologiebeurs in Berlijn op 1 september 2023. Foto: Reuters

Systemen met een laag risico zouden daarentegen te maken krijgen met minder transparantieverplichtingen, zoals het labelen van door AI gegenereerde content, zodat gebruikers kunnen overwegen deze te gebruiken.

AI in rechtshandhaving

Rechtshandhavingsinstanties mogen alleen realtime biometrische identificatiesystemen op afstand gebruiken in de openbare ruimte om slachtoffers van ontvoering, mensenhandel en seksuele uitbuiting te identificeren en om specifieke en acute terroristische dreigingen te voorkomen.

Ook mogen autoriteiten AI-technologie gebruiken om verdachten van terrorisme, mensenhandel, seksuele uitbuiting, moord, ontvoering, verkrachting, gewapende overval, deelname aan een criminele organisatie en milieudelicten op te sporen.

Algemene en platform-AI (GPAI)-systemen

GPAI en de onderliggende modellen zijn onderworpen aan transparantievereisten, zoals het produceren van technische documentatie, het naleven van de EU-auteursrechtwetgeving en het publiceren van gedetailleerde samenvattingen van de inhoud die wordt gebruikt om de algoritmen te trainen.

Platformmodellen die vallen onder de categorie 'mogelijk systeemrisico's creëren' en 'GPAI met grote impact', moeten een algemene modelbeoordeling uitvoeren, risico's beoordelen en beperken, reverse engineering-tests uitvoeren, de Europese Commissie op de hoogte stellen van ernstige incidenten, de cyberbeveiliging waarborgen en rapporteren over energieverbruik.

Robot "Rmeca" op de Good Global Summit in Genève, Zwitserland. Foto: Reuters

Totdat er geharmoniseerde EU-normen zijn gepubliceerd, lopen GPAI's een systematisch risico dat ze afhankelijk worden van gedragscodes om te voldoen aan de regelgeving.

AI-systemen zijn verboden

Tot het verboden gedrag en de verboden inhoud behoren: Biometrische classificatiesystemen die gebruikmaken van gevoelige kenmerken zoals politiek , religie, filosofische overtuigingen, seksuele geaardheid en ras;

Het niet-gericht scannen van gezichtsafbeeldingen van internet of CCTV-beelden om een gezichtsherkenningsdatabase te creëren;

Emotieherkenning op de werkvloer en in het onderwijs ;

Sociale score gebaseerd op sociaal gedrag of persoonlijke kenmerken;

AI-systemen manipuleren menselijk gedrag om hun vrije wil te ondermijnen;

AI wordt gebruikt om misbruik te maken van menselijke zwakheden die voortkomen uit leeftijd, een beperking, of economische of sociale omstandigheden.

Sancties

Afhankelijk van de overtreding en de omvang van het betrokken bedrijf, variëren de boetes van € 7,5 miljoen ($ 8 miljoen) of 1,5% van de jaarlijkse wereldwijde omzet, tot € 35 miljoen of 7% van de wereldwijde omzet.

(Volgens Reuters)

EU bereikt historische overeenkomst over regulering van kunstmatige intelligentie

Een akkoord tussen het Europees Parlement en de lidstaten gaat kunstmatige intelligentie (AI), sociale media en zoekmachines reguleren.

EU bereikt akkoord over wet ter bescherming van slimme apparaten

Op 30 november bereikten de Europese wetgevers een voorlopig akkoord over een voorstel om verbonden apparaten te beschermen. Hierbij is het vereist dat er cyberbeveiligingsgaranties worden afgegeven voor producten met digitale elementen voordat deze op de markt worden gebracht.

EU treedt streng op tegen techgiganten en dreigt bedrijven die de regels overtreden, op te breken

De Europese Unie (EU) blijft het toezicht op grote technologiebedrijven verscherpen met strenge sancties. Deze kunnen boetes van 10%-20% van de wereldwijde omzet opleggen en zelfs leiden tot de opsplitsing van bedrijven die zich niet aan de regelgeving houden.

Bron