Artificiell intelligens kan inte ersätta domare.

Den snabba utvecklingen av artificiell intelligens (AI) under senare år har förändrat landskapet inom många viktiga sektorer, från hälso- och sjukvård och utbildning till finans. Men i takt med att denna teknik börjar komma in i rättssalen har en våg av djup oro uppstått gällande rättssystemets rättvisa och etiska grunder.

Workshop om användningen av AI i det estniska rättssystemet (FOTO: AVALIK)

Det är inte alltid bra.

Användningen av AI i domstolsbeslut medför allvarliga risker. Felaktiga resultat som härrör från "illusorisk" information, diskriminerande beslut och bristande transparens är alla problem. Även om AI skulle kunna bidra till att lösa miljontals pågående fall, utgör riskerna med att urholka den mänskliga rättvisan en betydande utmaning för rättssystemen.

Inledningsvis var den största drivkraften för AI:s närvaro inom rättsväsendet det enorma trycket från ett överbelastat domstolssystem. I Indien kommer landet år 2026 att ha över 55 miljoner pågående mål i domstol, nästan dubbelt så många som de cirka 29 miljoner målen år 2018. Av dessa har mer än 17 miljoner mål dragit ut på tiden i över 5 år. Det uppskattas att det kan ta över 300 år för landets rättssystem att lösa denna eftersläpning. AI framträdde som en digital "livlina".

Runt om i världen har många platser experimenterat med AI för att hantera lågrisk- eller mekaniskt drivna fall. Estland har infört ett halvautomatiskt system för mindre civilrättsliga stämningar. I Tyskland testar domstolen i Frankfurt Frauke-systemet för att hjälpa till med att utarbeta domar. Den brittiske högre domaren Geoffrey Vos har föreslagit möjligheten att använda AI för att hantera beslut som att beräkna underhåll eller skadestånd för att spara kostnader.

Att förlita sig på AI har dock lett till många allvarliga fel. En marktvist i Andhra Pradesh (Indien) blev en varningstecken när en domare avgjorde fallet baserat på fyra helt obefintliga prejudikat. Dessa domar lät logiska, kompletta med egennamn och skarpa argument, men i verkligheten var de bara påhittade produkter skapade av AI. Ärendet upptäcktes först när svaranden överklagade till Högsta domstolen, där domare kallade handlingen "felaktig handling" snarare än bara ett professionellt fel. På liknande sätt erkände en domare i Colombia att han använt ChatGPT för att bistå i sina argument i ett fall som rörde medicinsk behandling av autistiska barn. I New York disciplinerades två advokater för att ha lämnat in juridiska sammanfattningar med hänvisning till sex fall som "skapats" av chatboten GPT... Dessa incidenter visar att när AI deltar i den rättsliga processen blir gränsen mellan hjälp och ersättning farligare än någonsin.

Brist på mänsklighet

Den största oron när man använder AI i studier, även i fall som anses vara enkla, är risken för systemisk bias. AI skapar inte bias i sig själv; den reflekterar och förstärker bara det som redan finns i data.

Enligt den tyska tv-kanalen DW hävdade Mimansa Ambastha, expert på AI-strategi på det juridiska konsultföretaget Starlex Consultants (Indien), att AI inte kan ersätta mänskligt samvete i rättskipning. Om AI överanvänds kan den snedvrida bedömningar.

Dessutom varnade den brasilianske advokaten och forskaren Matheus Puppe, som specialiserar sig på samspelet mellan AI och juridik, för farorna med det " vetenskapliga utseende" som AI medför. Han menade att domare bör vara försiktiga med att se AI-analyser som neutrala, eftersom AI kan förlita sig på tidigare felaktiga bedömningar.

Dessutom, enligt juridiska experter, handlar dömande av vittnesmål inte bara om att tillämpa matematiska formler på lagen. Det är en omfattande process som kräver direkta interpersonella argument och psykologisk empati. AI, oavsett hur avancerad den är, kan inte "förstå" ett vittnes humör genom deras ögon eller röst. Det är just dessa element av rättvisa som AI saknar.

Enligt internationella juridiska experter måste rättsväsendet upprätthålla principen att teknologin tjänar mänskligheten, inte ersätter samvetet. Att upprätthålla tillsynen av domare av kött och blod är inte bara för att undvika tekniska fel, utan också för att skydda lagens humanistiska värden.

Sammanställt av KHANH MINH

Källa: https://www.sggp.org.vn/tri-tue-nhan-tao-khong-the-thay-the-quan-toa-post848882.html