Belangrijkste punten in de historische overeenkomst van de EU over AI-bestuur

De wetgevers zullen de komende weken doorgaan met het bespreken van gedetailleerde regelgeving, zodat het definitieve proces begin volgend jaar kan worden afgerond en naar verwachting vanaf 2026 van kracht zal worden.

Tot die tijd worden bedrijven aangemoedigd om zich aan te sluiten bij het vrijwillige AI-pact om de belangrijkste verplichtingen van de regels te implementeren.

Hieronder vindt u de belangrijkste inhoud van de overeenkomst die de EU heeft gesloten.

Systeem met hoog risico

Zogenaamde AI-systemen met een hoog risico – systemen waarvan wordt aangenomen dat ze aanzienlijke schade kunnen toebrengen aan de gezondheid, de veiligheid, de grondrechten, het milieu, de democratie, de verkiezingen en de rechtsstaat – zullen aan een reeks vereisten moeten voldoen, zoals het ondergaan van tests om de impact op de grondrechten en de verplichtingen inzake markttoegang van de EU te beoordelen.

Huenit, een AI-camera gemonteerd op een robotarm op een consumententechnologiebeurs in Berlijn op 1 september 2023. Foto: Reuters

Systemen met een laag risico zouden daarentegen te maken krijgen met minder transparantieverplichtingen, zoals het labelen van door AI gegenereerde content, zodat gebruikers kunnen overwegen deze te gebruiken.

AI in rechtshandhaving

Rechtshandhavingsinstanties mogen alleen realtime biometrische identificatiesystemen op afstand gebruiken in de openbare ruimte om slachtoffers van ontvoering, mensenhandel en seksuele uitbuiting te identificeren en om specifieke en dreigende terroristische dreigingen te voorkomen.

Ook mogen autoriteiten AI-technologie gebruiken om verdachten van terrorisme, mensenhandel, seksuele uitbuiting, moord, ontvoering, verkrachting, gewapende overval, deelname aan een criminele organisatie en milieudelicten op te sporen.

Algemene en platform-AI (GPAI)-systemen

GPAI en de onderliggende modellen zijn onderworpen aan transparantievereisten, zoals het produceren van technische documentatie, het naleven van de EU-auteursrechtwetgeving en het publiceren van gedetailleerde samenvattingen van de inhoud die wordt gebruikt om de algoritmen te trainen.

Platformmodellen die vallen onder de categorie van potentieel systeemrisico en GPAI met grote impact, moeten een algemene modelbeoordeling uitvoeren, risico's beoordelen en beperken, reverse engineering uitvoeren, de Europese Commissie op de hoogte stellen van ernstige incidenten, de cyberbeveiliging waarborgen en rapporteren over energieverbruik.

Robot "Rmeca" op de Good Global Summit in Genève, Zwitserland. Foto: Reuters

Totdat er geharmoniseerde EU-normen zijn gepubliceerd, lopen GPAI's een systematisch risico dat ze afhankelijk worden van gedragscodes om te voldoen aan de regelgeving.

AI-systemen zijn verboden

Verboden gedrag en inhoud omvatten: Biometrische classificatiesystemen die gebruikmaken van gevoelige kenmerken zoals politieke , religieuze, filosofische overtuigingen, seksuele geaardheid en ras;

Het niet-gericht scannen van gezichtsafbeeldingen van internet of CCTV-beelden om een ​​gezichtsherkenningsdatabase te creëren;

Emotieherkenning op de werkvloer en in het onderwijs ;

Sociale scores zijn gebaseerd op sociaal gedrag of persoonlijke eigenschappen;

AI-systemen manipuleren menselijk gedrag om hun vrije wil te ondermijnen;

AI wordt gebruikt om misbruik te maken van menselijke zwakheden die voortkomen uit leeftijd, een beperking, of economische of sociale omstandigheden.

Sancties

Afhankelijk van de overtreding en de omvang van het betrokken bedrijf, variëren de boetes van 7,5 miljoen euro ($8 miljoen) of 1,5% van de jaarlijkse wereldwijde omzet, tot 35 miljoen euro of 7% van de wereldwijde omzet.

(Volgens Reuters)

EU bereikt historische overeenkomst over regulering van kunstmatige intelligentie

Een akkoord tussen het Europees Parlement en de lidstaten gaat kunstmatige intelligentie (AI), sociale media en zoekmachines reguleren.

EU bereikt akkoord over wet ter bescherming van slimme apparaten

Op 30 november bereikten de Europese wetgevers een voorlopig akkoord over een voorstel om verbonden apparaten te beschermen. Hierbij is het vereist dat de cyberveiligheid van producten met digitale elementen wordt gewaarborgd voordat deze op de markt worden gebracht.

EU treedt streng op tegen techgiganten en dreigt bedrijven die de regels overtreden, op te breken

De Europese Unie (EU) blijft het toezicht op grote technologiebedrijven verscherpen met strenge sancties. Deze kunnen boetes van 10%-20% van de wereldwijde omzet opleggen en zelfs de opsplitsing van bedrijven die zich niet aan de regelgeving houden, afdwingen.

Bron: https://vietnamnet.vn/nhung-diem-mau-chot-trong-thoa-thuan-lich-su-ve-quan-ly-ai-cua-eu-2225466.html