Os legisladores continuarão a discutir regulamentações detalhadas nas próximas semanas com o objetivo de finalizar o processo no início do ano que vem, com o plano de aplicá-las a partir de 2026.
Até lá, as empresas são incentivadas a assinar o Pacto voluntário da IA para cumprir as principais obrigações das regras.
Abaixo estão os principais conteúdos do acordo firmado pela UE.
Sistema de alto risco
Os chamados sistemas de IA de alto risco — aqueles considerados suscetíveis de causar danos significativos à saúde, à segurança, aos direitos fundamentais, ao meio ambiente, à democracia, às eleições e ao Estado de direito — terão de cumprir uma série de requisitos, como a realização de avaliações de impacto sobre os direitos fundamentais e as obrigações de acesso ao mercado da UE.
Enquanto isso, sistemas de baixo risco estariam sujeitos a obrigações de transparência mais leves, como rotular conteúdo gerado por IA para que os usuários possam considerar usá-lo.
IA na aplicação da lei
As agências de segurança pública só estão autorizadas a usar sistemas de identificação biométrica remota em tempo real em espaços públicos para identificar vítimas de sequestro, tráfico de pessoas, exploração sexual e para prevenir ameaças terroristas específicas e iminentes.
As autoridades também poderão usar tecnologia de IA para rastrear suspeitos de terrorismo, tráfico de pessoas, exploração sexual, assassinato, sequestro, estupro, assalto à mão armada, participação em organização criminosa e crimes ambientais.
Sistemas de IA Geral e de Plataforma (GPAI)
O GPAI e os modelos subjacentes estarão sujeitos a requisitos de transparência, como a produção de documentação técnica, a conformidade com a lei de direitos autorais da UE e a publicação de resumos detalhados do conteúdo usado para treinar os algoritmos.
Os modelos de plataforma que se enquadram na categoria de potencial criação de risco sistêmico e GPAI de alto impacto precisarão conduzir uma avaliação geral do modelo, revisar e mitigar riscos, conduzir testes de engenharia reversa, notificar a Comissão Europeia sobre incidentes graves, garantir a segurança cibernética e relatar o consumo de energia.
Até que as normas harmonizadas da UE sejam publicadas, as GPAIs correm o risco sistêmico de depender de códigos de prática para cumprir as regulamentações.
Os sistemas de IA são proibidos
Conduta e conteúdo proibidos incluem: Sistemas de classificação biométrica que usam características sensíveis, como política , religião, crenças filosóficas, orientação sexual e raça;
Escaneamento não direcionado de imagens faciais da Internet ou de imagens de CFTV para criar um banco de dados de reconhecimento facial;
Reconhecimento de emoções no ambiente de trabalho e educacional ;
Pontuação social baseada em comportamento social ou características pessoais;
Os sistemas de IA manipulam o comportamento humano para subverter seu livre arbítrio;
A IA é usada para explorar fraquezas humanas devido à idade, deficiência, circunstâncias econômicas ou sociais.
Sanções
Dependendo da violação e do tamanho da empresa envolvida, as multas começarão em € 7,5 milhões (US$ 8 milhões) ou 1,5% do faturamento global anual, chegando a € 35 milhões ou 7% do faturamento global.
(De acordo com a Reuters)
UE chega a acordo histórico para regular a inteligência artificial
UE chega a acordo sobre Lei de Proteção de Dispositivos Inteligentes
UE endurece com gigantes da tecnologia e ameaça desmembrar empresas infratoras
Fonte
Comentário (0)