Klíčové body historické dohody EU o správě umělé inteligence

Zákonodárci budou v nadcházejících týdnech pokračovat v projednávání podrobných předpisů s cílem dokončit proces začátkem příštího roku s plánem platit od roku 2026.

Do té doby se společnosti vyzývají, aby se přihlásily k dobrovolnému paktu o umělé inteligenci a splnily tak klíčové povinnosti vyplývající z pravidel.

Níže je uveden hlavní obsah dohody, na které se EU dohodla.

Systém s vysokým rizikem

Takzvané vysoce rizikové systémy umělé inteligence – ty, u kterých se má za to, že mohou způsobit značné škody na zdraví, bezpečnosti, základních právech, životním prostředí, demokracii, volbách a právním státě – budou muset splňovat řadu požadavků, jako je například podrobení se posouzení dopadů na základní práva a povinnosti EU v oblasti přístupu na trh.

Huenit, kamera s umělou inteligencí namontovaná na robotickém rameni na veletrhu spotřební elektroniky konaném v Berlíně 1. září 2023. Foto: Reuters

Systémy s nízkým rizikem by mezitím podléhaly mírnějším povinnostem týkajícím se transparentnosti, jako je označování obsahu generovaného umělou inteligencí, aby uživatelé mohli zvážit jeho použití.

Umělá inteligence v oblasti vymáhání práva

Orgány činné v trestním řízení mohou používat systémy dálkové biometrické identifikace v reálném čase pouze ve veřejných prostorách, k identifikaci obětí únosů, obchodování s lidmi, sexuálního vykořisťování a k prevenci konkrétních a bezprostředních teroristických hrozeb.

Úřady budou také moci využívat technologii umělé inteligence ke sledování osob podezřelých z terorismu, obchodování s lidmi, sexuálního vykořisťování, vraždy, únosu, znásilnění, ozbrojené loupeže, účasti ve zločinecké organizaci a environmentálních trestných činů.

Systémy obecné a platformní umělé inteligence (GPAI)

GPAI a podkladové modely budou podléhat požadavkům na transparentnost, jako je tvorba technické dokumentace, dodržování autorských práv EU a zveřejňování podrobných shrnutí obsahu použitého k trénování algoritmů.

Modely platforem, které spadají do kategorie potenciálně vytvářejících systémové riziko a vysoce dopadových GPAI, budou muset provádět obecné hodnocení modelu, přezkoumávat a zmírňovat rizika, provádět reverzní inženýrské testování, informovat Evropskou komisi o závažných incidentech, zajistit kybernetickou bezpečnost a podávat zprávy o spotřebě energie.

Robot „Rmeca“ na summitu Good Global Summit v Ženevě ve Švýcarsku. Foto: Reuters

Dokud nebudou zveřejněny harmonizované normy EU, hrozí, že se GPAI budou při dodržování předpisů spoléhat na kodexy postupů.

Systémy umělé inteligence jsou zakázány

Mezi zakázané chování a obsah patří: Biometrické klasifikační systémy, které používají citlivé charakteristiky, jako je politika , náboženství, filozofické přesvědčení, sexuální orientace a rasa;

Necílené skenování obrázků obličeje z internetu nebo záznamů z CCTV za účelem vytvoření databáze pro rozpoznávání obličejů;

Rozpoznávání emocí na pracovišti a ve vzdělávacím prostředí;

Sociální bodování založené na sociálním chování nebo osobních charakteristikách;

Systémy umělé inteligence manipulují s lidským chováním, aby podkopaly jejich svobodnou vůli;

Umělá inteligence se používá k zneužívání lidských slabin daných jejich věkem, postižením, ekonomickými nebo sociálními okolnostmi.

Sankce

V závislosti na porušení a velikosti dotčené společnosti budou pokuty začínat na 7,5 milionu eur (8 milionů dolarů) nebo 1,5 % ročního celosvětového obratu a zvyšovat se až na 35 milionů eur nebo 7 % celosvětového obratu.

(Podle agentury Reuters)

EU dosáhla historické dohody o regulaci umělé inteligence

Dohoda mezi Evropským parlamentem a členskými státy bude regulovat umělou inteligenci (AI), sociální média a vyhledávače.

EU dosáhla dohody o zákonu o ochraně chytrých zařízení

Zákonodárci EU dosáhli 30. listopadu předběžné dohody o návrhu na ochranu připojených zařízení, který vyžaduje zajištění kybernetické bezpečnosti produktů s digitálními prvky před jejich uvedením do provozu na tomto trhu.

EU je přísná vůči technologickým gigantům a hrozí rozpuštěním společností, které je porušují.

Evropská unie (EU) nadále zpřísňuje řízení velkých technologických společností přísnými sankcemi, které mohou pokutovat 10–20 % globálních tržeb a dokonce vynutit rozdělení společností, které nedodržují předpisy.

Zdroj