A inteligência artificial não pode substituir os juízes.

O rápido desenvolvimento da inteligência artificial (IA) nos últimos anos transformou o panorama de muitos setores-chave, da saúde e educação às finanças. Contudo, à medida que essa tecnologia começa a entrar nos tribunais, surge uma onda de profunda preocupação quanto à imparcialidade e aos fundamentos éticos do sistema de justiça.

Workshop sobre o uso de IA no sistema judicial estoniano (FOTO: AVALIK)

Nem sempre é bom.

O uso da IA ​​em decisões judiciais acarreta sérios riscos. Resultados imprecisos decorrentes de informações "ilusórias", decisões discriminatórias e falta de transparência são preocupações comuns. Embora a IA possa ajudar a resolver milhões de casos pendentes, os riscos de erosão da justiça humana representam um desafio significativo para os sistemas jurídicos.

Inicialmente, o maior incentivo para a presença da IA ​​no judiciário foi a imensa pressão de um sistema judicial sobrecarregado. Na Índia, em 2026, o país terá mais de 55 milhões de casos pendentes nos tribunais, quase o dobro dos aproximadamente 29 milhões de casos em 2018. Destes, mais de 17 milhões de casos se arrastam há mais de 5 anos. Estima-se que o sistema judiciário do país possa levar mais de 300 anos para resolver esse acúmulo de processos. A IA surgiu como uma "tábua de salvação" digital.

Em todo o mundo , muitos lugares têm experimentado o uso de IA para lidar com casos de baixo risco ou que exigem processos automatizados. A Estônia implementou um sistema semiautomático para ações cíveis de menor gravidade. Na Alemanha, o tribunal de Frankfurt está testando o sistema Frauke para auxiliar na elaboração de sentenças. O juiz britânico Geoffrey Vos sugeriu a possibilidade de usar IA para decisões como o cálculo de pensão alimentícia ou indenizações, visando reduzir custos.

No entanto, a dependência da IA ​​levou a muitos erros graves. Uma disputa de terras em Andhra Pradesh (Índia) tornou-se um sinal de alerta quando um juiz resolveu o caso com base em quatro precedentes completamente inexistentes. Essas decisões soavam lógicas, com nomes próprios e argumentos sólidos, mas, na realidade, eram meros produtos imaginários criados por IA. O problema só foi descoberto quando o réu recorreu ao Supremo Tribunal, onde os juízes consideraram o ato "conduta ilícita" em vez de simplesmente um erro profissional. Da mesma forma, na Colômbia, um juiz admitiu ter usado o ChatGPT para auxiliar em seus argumentos em um caso sobre tratamento médico para crianças autistas. Em Nova York, dois advogados foram disciplinados por apresentarem resumos jurídicos citando seis casos "criados" pelo chatbot GPT... Esses incidentes demonstram que, quando a IA participa do processo judicial, a linha entre auxílio e substituição torna-se mais perigosa do que nunca.

Falta de humanidade

A principal preocupação ao usar IA em ensaios clínicos, mesmo em casos considerados simples, é o risco de viés sistêmico. A IA não cria viés por si só; ela apenas reflete e amplifica o que já está presente nos dados.

Segundo o canal de televisão alemão DW, Mimansa Ambastha, especialista em estratégia de IA da consultoria jurídica Starlex Consultants (Índia), afirmou que a IA não pode substituir a consciência humana na administração da justiça. Se a IA for usada em excesso, poderá distorcer os julgamentos.

Além disso, o advogado e pesquisador brasileiro Matheus Puppe, especialista na interseção entre IA e direito, também alertou sobre os perigos da "aparência científica " que a IA traz. Ele argumentou que os juízes devem ter cautela ao considerar as análises de IA como neutras, já que a IA pode se basear em julgamentos errôneos do passado.

Além disso, segundo especialistas jurídicos, o julgamento não se resume à aplicação de fórmulas matemáticas à lei. Trata-se de um processo complexo que exige argumentação interpessoal direta e empatia psicológica. A IA, por mais avançada que seja, não consegue "compreender" o estado de espírito de uma testemunha através dos olhos ou da voz. São precisamente esses os elementos de imparcialidade que faltam à IA.

Segundo especialistas jurídicos internacionais, o sistema judicial precisa defender o princípio de que a tecnologia serve à humanidade, e não substitui a consciência. Manter a supervisão de juízes de carne e osso não serve apenas para evitar erros técnicos, mas também para proteger os valores humanísticos do direito.

Compilado por KHANH MINH

Fonte: https://www.sggp.org.vn/tri-tue-nhan-tao-khong-the-thay-the-quan-toa-post848882.html