Puncte cheie ale acordului istoric al UE privind guvernanța IA

Legislatorii vor continua să discute reglementări detaliate în următoarele săptămâni, în vederea finalizării procesului la începutul anului viitor, cu planul de aplicare din 2026.

Până atunci, companiile sunt încurajate să adere la Pactul voluntar privind IA pentru a îndeplini principalele obligații prevăzute de norme.

Mai jos sunt prezentate principalele conținuturi ale acordului semnat de UE.

Sistem cu risc ridicat

Așa-numitele sisteme de IA cu risc ridicat – cele considerate susceptibile de a cauza daune semnificative sănătății, siguranței, drepturilor fundamentale, mediului, democrației, alegerilor și statului de drept – vor trebui să respecte o serie de cerințe, cum ar fi efectuarea unor evaluări ale impactului asupra drepturilor fundamentale și obligațiile privind accesul pe piața UE.

Huenit, o cameră cu inteligență artificială montată pe un braț robotic, la un târg de tehnologie de larg consum care a avut loc la Berlin pe 1 septembrie 2023. Fotografie: Reuters

Între timp, sistemele cu risc scăzut ar fi supuse unor obligații de transparență mai puțin stricte, cum ar fi etichetarea conținutului generat de inteligența artificială, astfel încât utilizatorii să poată lua în considerare utilizarea acestuia.

IA în aplicarea legii

Agențiile de aplicare a legii au permisiunea de a utiliza sisteme de identificare biometrică la distanță în timp real doar în spațiile publice, pentru a identifica victimele răpirii, traficului de persoane, exploatării sexuale și pentru a preveni amenințări teroriste specifice și iminente.

Autoritățile vor avea, de asemenea, permisiunea de a utiliza tehnologia inteligenței artificiale pentru a urmări suspecții de terorism, trafic de persoane, exploatare sexuală, crimă, răpire, viol, jaf armat, participare la o organizație criminală și infracțiuni împotriva mediului.

Sisteme generale și de platformă cu inteligență artificială (GPAI)

GPAI și modelele subiacente vor fi supuse unor cerințe de transparență, cum ar fi producerea documentației tehnice, respectarea legislației UE privind drepturile de autor și publicarea de rezumate detaliate ale conținutului utilizat pentru antrenarea algoritmilor.

Modelele de platformă care se încadrează în categoria celor care pot crea riscuri sistemice și GPAI cu impact ridicat vor fi obligate să efectueze o evaluare generală a modelului, să revizuiască și să atenueze riscurile, să efectueze teste de inginerie inversă, să notifice Comisia Europeană cu privire la incidentele grave, să asigure securitatea cibernetică și să raporteze consumul de energie.

Robotul „Rmeca” la Summitul Global Bun din Geneva, Elveția. Foto: Reuters

Până la publicarea standardelor armonizate ale UE, GPAI-urile sunt expuse riscului sistemic de a se baza pe coduri de practică pentru a se conforma reglementărilor.

Sisteme de inteligență artificială interzise

Conduita și conținutul interzise includ: sisteme de clasificare biometrică care utilizează caracteristici sensibile, cum ar fi convingerile politice , religioase, filozofice, orientarea sexuală și rasa;

Scanare nețintită a imaginilor faciale de pe internet sau a înregistrărilor video de pe camerele de supraveghere pentru a crea o bază de date de recunoaștere facială;

Recunoașterea emoțiilor la locul de muncă și în mediul educațional ;

Scorare socială bazată pe comportamentul social sau caracteristicile personale;

Sistemele de inteligență artificială manipulează comportamentul uman pentru a le submina liberul arbitru;

IA este utilizată pentru a exploata slăbiciunile umane datorate vârstei, dizabilității, circumstanțelor economice sau sociale.

Sancțiuni

În funcție de încălcare și de dimensiunea companiei implicate, amenzile vor începe de la 7,5 milioane de euro sau 1,5% din cifra de afaceri globală anuală, crescând până la 35 de milioane de euro sau 7% din cifra de afaceri globală.

(Conform Reuters)

UE ajunge la un acord istoric pentru reglementarea inteligenței artificiale

Un acord între Parlamentul European și statele membre va reglementa inteligența artificială (IA), rețelele sociale și motoarele de căutare.

UE ajunge la un acord privind Legea privind protecția dispozitivelor inteligente

Pe 30 noiembrie, legiuitorii UE au ajuns la un acord preliminar privind o propunere de protejare a dispozitivelor conectate, care impune asigurarea securității cibernetice pentru produsele cu elemente digitale înainte de a fi puse în funcțiune pe această piață.

UE ia măsuri dure față de giganții tehnologici și amenință că va desființa companiile care încalcă legea.

Uniunea Europeană (UE) continuă să înăsprească managementul marilor companii de tehnologie cu sancțiuni stricte, care pot amenda cu 10%-20% din veniturile globale și chiar pot impune divizarea companiilor care nu respectă reglementările.

Sursă