La inteligencia artificial no puede reemplazar a los jueces.

El rápido desarrollo de la inteligencia artificial (IA) en los últimos años ha transformado el panorama de muchos sectores clave, desde la sanidad y la educación hasta las finanzas. Sin embargo, a medida que esta tecnología comienza a introducirse en los tribunales, ha surgido una profunda preocupación por la imparcialidad y los fundamentos éticos del sistema judicial.

Taller sobre el uso de la IA en el sistema judicial estonio (FOTO: AVALIK)

No siempre es bueno.

El uso de la IA en las decisiones judiciales conlleva graves riesgos. Los resultados inexactos derivados de información "ilusoria", las decisiones discriminatorias y la falta de transparencia son motivo de preocupación. Si bien la IA podría ayudar a resolver millones de casos pendientes, el riesgo de que se menoscabe la justicia humana representa un desafío importante para los sistemas legales.

Inicialmente, el principal impulso para la presencia de la IA en el poder judicial fue la enorme presión de un sistema judicial sobrecargado. En India, para 2026, el país tendrá más de 55 millones de casos pendientes en los tribunales, casi el doble de los aproximadamente 29 millones de casos en 2018. De estos, más de 17 millones de casos se han prolongado durante más de 5 años. Se estima que el sistema judicial del país podría tardar más de 300 años en resolver este retraso. La IA surgió como un salvavidas digital.

En todo el mundo , muchos lugares han estado experimentando con la IA para gestionar casos de bajo riesgo o que requieren automatización. Estonia ha implementado un sistema semiautomático para litigios civiles menores. En Alemania, el tribunal de Frankfurt está probando el sistema Frauke para ayudar en la redacción de sentencias. El juez británico Geoffrey Vos ha sugerido la posibilidad de utilizar la IA para tomar decisiones como el cálculo de la pensión alimenticia o las indemnizaciones, con el fin de ahorrar costes.

Sin embargo, la dependencia de la IA ha dado lugar a numerosos errores graves. Una disputa territorial en Andhra Pradesh (India) se convirtió en una señal de alerta cuando un juez resolvió el caso basándose en cuatro precedentes completamente inexistentes. Estas resoluciones parecían lógicas, con nombres propios y argumentos contundentes, pero en realidad, eran meros productos imaginarios creados por la IA. El asunto solo se descubrió cuando el demandado apeló ante el Tribunal Supremo, donde los jueces calificaron el acto de "mala praxis" en lugar de un simple error profesional. De manera similar, en Colombia, un juez admitió haber utilizado ChatGPT para respaldar sus argumentos en un caso sobre el tratamiento médico de niños autistas. En Nueva York, dos abogados fueron sancionados por presentar resúmenes legales que citaban seis casos "creados" por el chatbot GPT. Estos incidentes demuestran que, cuando la IA participa en el proceso judicial, la línea entre asistencia y sustitución se vuelve más peligrosa que nunca.

Falta de humanidad

La principal preocupación al utilizar IA en ensayos clínicos, incluso en casos considerados sencillos, es el riesgo de sesgo sistémico. La IA no crea sesgos por sí misma; simplemente refleja y amplifica lo que ya está presente en los datos.

Según el canal de televisión alemán DW, Mimansa Ambastha, experta en estrategia de IA de la consultora jurídica Starlex Consultants (India), afirmó que la IA no puede sustituir la conciencia humana en la administración de justicia. Si se abusa de la IA, podría distorsionar los juicios.

Además, el abogado e investigador brasileño Matheus Puppe, especializado en la intersección entre la IA y el derecho, advirtió sobre los peligros de la "apariencia científica " que conlleva la IA. Sostuvo que los jueces deberían ser cautelosos al considerar los análisis de la IA como neutrales, ya que esta podría basarse en juicios erróneos del pasado.

Además, según expertos legales, la adjudicación no se limita a aplicar fórmulas matemáticas a la ley. Es un proceso integral que requiere argumentos interpersonales directos y empatía psicológica. La IA, por muy avanzada que sea, no puede comprender el estado de ánimo de un testigo a través de sus ojos o su voz. Precisamente estos son los elementos de imparcialidad de los que carece la IA.

Según expertos jurídicos internacionales, el sistema judicial debe defender el principio de que la tecnología está al servicio de la humanidad, no que sustituye la conciencia. Mantener la supervisión de jueces de carne y hueso no solo evita errores técnicos, sino que también protege los valores humanísticos del derecho.

Compilado por KHANH MINH

Fuente: https://www.sggp.org.vn/tri-tue-nhan-tao-khong-the-thay-the-quan-toa-post848882.html