Pontos-chave do acordo histórico da UE sobre governança da IA

[anúncio_1]

Os legisladores continuarão a discutir regulamentações detalhadas nas próximas semanas para que o processo final possa ser concluído no início do ano que vem, com previsão de aplicação a partir de 2026.

Até lá, as empresas são incentivadas a assinar o Pacto de IA voluntário para implementar as principais obrigações das regras.

Abaixo estão os principais conteúdos do acordo firmado pela UE.

Sistema de alto risco

Os chamados sistemas de IA de alto risco — aqueles considerados suscetíveis de causar danos significativos à saúde, à segurança, aos direitos fundamentais, ao meio ambiente, à democracia, às eleições e ao Estado de direito — terão de cumprir uma série de requisitos, como a realização de testes que avaliem o impacto nos direitos fundamentais e nas obrigações de acesso ao mercado da UE.

Huenit, uma câmera de IA montada em um braço robótico em uma feira de tecnologia de consumo realizada em Berlim em 1º de setembro de 2023. Foto: Reuters

Enquanto isso, sistemas de baixo risco estariam sujeitos a obrigações de transparência mais leves, como rotular conteúdo gerado por IA para que os usuários possam considerar usá-lo.

IA na aplicação da lei

As agências de segurança pública só podem usar sistemas de identificação biométrica remota em tempo real em espaços públicos para identificar vítimas de sequestro, tráfico de pessoas, exploração sexual e para prevenir ameaças terroristas específicas e iminentes.

As autoridades também poderão usar a tecnologia de IA para rastrear suspeitos de terrorismo, tráfico de pessoas, exploração sexual, assassinato, sequestro, estupro, assalto à mão armada, participação em organização criminosa e crimes ambientais.

Sistemas de IA Geral e de Plataforma (GPAI)

O GPAI e os modelos subjacentes estarão sujeitos a requisitos de transparência, como a produção de documentação técnica, a conformidade com a lei de direitos autorais da UE e a publicação de resumos detalhados do conteúdo usado para treinar os algoritmos.

Os modelos de plataforma que se enquadram na categoria de potencial criação de risco sistêmico e GPAI de alto impacto precisarão conduzir uma avaliação geral do modelo, revisar e mitigar riscos, conduzir engenharia reversa, notificar a Comissão Europeia sobre incidentes graves, garantir a segurança cibernética e relatar o consumo de energia.

Robô "Rmeca" no Good Global Summit em Genebra, Suíça. Foto: Reuters

Até que as normas harmonizadas da UE sejam publicadas, as GPAIs correm o risco sistêmico de depender de códigos de prática para cumprir as regulamentações.

Sistemas de IA proibidos

Conduta e conteúdo proibidos incluem: Sistemas de classificação biométrica que usam características sensíveis, como crenças políticas , religiosas, filosóficas, orientação sexual e raça;

Escaneamento não direcionado de imagens faciais da Internet ou de imagens de CFTV para criar um banco de dados de reconhecimento facial;

Reconhecimento de emoções no ambiente de trabalho e educacional ;

A pontuação social é baseada no comportamento social ou em características pessoais;

Os sistemas de IA manipulam o comportamento humano para subverter seu livre arbítrio;

A IA é usada para explorar fraquezas humanas devido à idade, deficiência, circunstâncias econômicas ou sociais.

Sanções

Dependendo da violação e do tamanho da empresa envolvida, as multas começarão em 7,5 milhões de euros (US$ 8 milhões) ou 1,5% do faturamento global anual, chegando a 35 milhões de euros ou 7% do faturamento global.

(De acordo com a Reuters)

UE chega a acordo histórico para regular a inteligência artificial

Um acordo entre o Parlamento Europeu e os estados-membros regulará a inteligência artificial (IA), as mídias sociais e os mecanismos de busca.

UE chega a acordo sobre Lei de Proteção de Dispositivos Inteligentes

Em 30 de novembro, os legisladores da UE chegaram a um acordo preliminar sobre uma proposta para proteger dispositivos conectados, exigindo garantia de segurança cibernética para produtos com elementos digitais antes que eles circulem para uso neste mercado.

UE endurece com gigantes da tecnologia e ameaça desmembrar empresas infratoras

A União Europeia (UE) continua a reforçar a gestão de grandes empresas de tecnologia com sanções severas, que podem multar de 10% a 20% da receita global e até mesmo forçar a divisão de empresas que não cumprem as regulamentações.

[anúncio_2]
Fonte