L'intelligence artificielle ne peut pas remplacer les juges.

Le développement rapide de l'intelligence artificielle (IA) ces dernières années a transformé le paysage de nombreux secteurs clés, de la santé à l'éducation en passant par la finance. Cependant, à mesure que cette technologie fait son entrée dans les tribunaux, une vague d'inquiétudes profondes se fait jour quant à l'équité et aux fondements éthiques du système judiciaire.

Atelier sur l'utilisation de l'IA dans le système judiciaire estonien (PHOTO : AVALIK)

Ce n'est pas toujours bon.

Le recours à l'IA dans les décisions de justice comporte des risques importants. Des conclusions erronées dues à des informations erronées, des décisions discriminatoires et un manque de transparence sont autant de sources d'inquiétude. Si l'IA pourrait contribuer à la résolution de millions d'affaires en cours, le risque d'une érosion de la justice humaine représente un défi majeur pour les systèmes juridiques.

Au départ, le principal facteur motivant l'intégration de l'IA dans le système judiciaire était l'immense pression exercée par un système judiciaire saturé. En Inde, d'ici 2026, le pays comptera plus de 55 millions d'affaires en attente devant les tribunaux, soit près du double des quelque 29 millions d'affaires recensées en 2018. Parmi celles-ci, plus de 17 millions traînent depuis plus de cinq ans. On estime que le système judiciaire du pays pourrait mettre plus de 300 ans à résorber cet arriéré. L'IA est apparue comme une solution numérique indispensable.

Partout dans le monde , de nombreux pays expérimentent l'intelligence artificielle pour traiter des affaires à faible risque ou automatisées. L'Estonie a déployé un système semi-automatique pour les litiges civils mineurs. En Allemagne, le tribunal de Francfort teste le système Frauke pour faciliter la rédaction des jugements. Le juge britannique Geoffrey Vos a évoqué la possibilité d'utiliser l'IA pour prendre des décisions telles que le calcul des pensions alimentaires ou des dommages et intérêts, afin de réduire les coûts.

Cependant, le recours à l'IA a engendré de nombreuses erreurs graves. Un litige foncier dans l'Andhra Pradesh (Inde) a servi d'avertissement lorsqu'un juge a tranché l'affaire sur la base de quatre précédents judiciaires totalement inexistants. Ces décisions, en apparence logiques, avec leurs noms propres et leurs arguments solides, étaient en réalité de simples créations de l'IA. L'affaire n'a été découverte que lorsque le défendeur a fait appel devant la Cour suprême, où les juges ont qualifié cet acte de « faute professionnelle » plutôt que de simple erreur de jugement. De même, en Colombie, un juge a admis avoir utilisé ChatGPT pour étayer ses arguments dans une affaire concernant le traitement médical d'enfants autistes. À New York, deux avocats ont été sanctionnés pour avoir soumis des résumés juridiques citant six affaires « créées » par le chatbot GPT… Ces incidents démontrent que lorsque l'IA intervient dans le processus judiciaire, la frontière entre assistance et substitution devient plus ténue que jamais.

Manque d'humanité

Le principal problème lié à l'utilisation de l'IA dans les essais cliniques, même dans les cas considérés comme simples, est le risque de biais systémique. L'IA ne crée pas de biais par elle-même ; elle ne fait que refléter et amplifier ceux déjà présents dans les données.

Selon la chaîne de télévision allemande DW, Mimansa Ambastha, experte en stratégie d'IA au sein du cabinet de conseil juridique Starlex Consultants (Inde), a affirmé que l'IA ne peut remplacer la conscience humaine dans l'administration de la justice. Un usage excessif de l'IA pourrait fausser les jugements.

Par ailleurs, Matheus Puppe, avocat et chercheur brésilien spécialisé dans les questions juridiques et liées à l'IA, a également mis en garde contre les dangers de l'apparence scientifique que peut conférer l'IA. Il a soutenu que les juges devaient se méfier de toute vision neutre des analyses de l'IA, car celle-ci peut s'appuyer sur des jugements erronés antérieurs.

De plus, selon des experts juridiques, le jugement ne se résume pas à l'application de formules mathématiques au droit. Il s'agit d'un processus complexe exigeant des échanges directs et une empathie psychologique. L'IA, aussi avancée soit-elle, ne peut « comprendre » l'état d'esprit d'un témoin à travers son regard ou sa voix. Ce sont précisément ces éléments d'équité qui font défaut à l'IA.

Selon des experts juridiques internationaux, le système judiciaire doit défendre le principe selon lequel la technologie est au service de l'humanité et non à la place de la conscience. Maintenir le contrôle exercé par des juges en chair et en os permet non seulement d'éviter les erreurs techniques, mais aussi de protéger les valeurs humanistes du droit.

Compilé par KHANH MINH

Source : https://www.sggp.org.vn/tri-tue-nhan-tao-khong-the-thay-the-quan-toa-post848882.html