Kunstmatige intelligentie kan rechters niet vervangen.

De snelle ontwikkeling van kunstmatige intelligentie (AI) in de afgelopen jaren heeft het landschap van veel belangrijke sectoren veranderd, van de gezondheidszorg en het onderwijs tot de financiële wereld. Nu deze technologie echter ook in rechtszalen wordt toegepast, is er een golf van grote bezorgdheid ontstaan ​​over de eerlijkheid en de ethische grondslagen van het rechtssysteem.

Workshop over het gebruik van AI in het Estse rechtssysteem (FOTO: AVALIK)

Het is niet altijd goed.

Het gebruik van AI bij rechterlijke uitspraken brengt ernstige risico's met zich mee. Onnauwkeurige uitkomsten als gevolg van "illusoir" informatie, discriminerende beslissingen en een gebrek aan transparantie zijn allemaal aandachtspunten. Hoewel AI kan helpen bij het oplossen van miljoenen lopende rechtszaken, vormen de risico's op aantasting van de menselijke rechtvaardigheid een aanzienlijke uitdaging voor rechtssystemen.

De belangrijkste drijfveer voor de aanwezigheid van AI in de rechterlijke macht was aanvankelijk de enorme druk van een overbelast rechtssysteem. In India zullen er in 2026 meer dan 55 miljoen rechtszaken lopen, bijna een verdubbeling ten opzichte van de circa 29 miljoen zaken in 2018. Meer dan 17 miljoen van deze zaken slepen al meer dan vijf jaar voort. Naar schatting zou het Indiase rechtssysteem meer dan 300 jaar nodig hebben om deze achterstand weg te werken. AI bleek een digitale "reddingslijn".

Wereldwijd wordt er op veel plaatsen geëxperimenteerd met AI voor de afhandeling van zaken met een laag risico of zaken die grotendeels automatisch verlopen. Estland heeft een semi-automatisch systeem ingezet voor kleine civiele rechtszaken. In Duitsland test de rechtbank van Frankfurt het Frauke-systeem ter ondersteuning van het opstellen van vonnissen. De Britse toprechter Geoffrey Vos heeft de mogelijkheid geopperd om AI in te zetten voor beslissingen zoals het berekenen van alimentatie of schadevergoeding, om zo kosten te besparen.

Het vertrouwen op AI heeft echter tot veel ernstige fouten geleid. Een grondgeschil in Andhra Pradesh (India) diende als waarschuwing toen een rechter de zaak besliste op basis van vier volledig niet-bestaande precedenten. Deze uitspraken klonken logisch, compleet met correcte namen en scherpe argumenten, maar in werkelijkheid waren het slechts fictieve producten die door AI waren gecreëerd. De zaak kwam pas aan het licht toen de gedaagde in beroep ging bij het Hooggerechtshof, waar rechters de handeling "onrechtmatig handelen" noemden in plaats van slechts een beroepsfout. Evenzo gaf een rechter in Colombia toe ChatGPT te hebben gebruikt ter ondersteuning van zijn argumenten in een zaak over medische behandeling van autistische kinderen. In New York werden twee advocaten tuchtigd voor het indienen van juridische samenvattingen waarin zes zaken werden aangehaald die "gecreëerd" waren door chatbot GPT. Deze incidenten tonen aan dat wanneer AI deelneemt aan het rechtsproces, de grens tussen ondersteuning en vervanging gevaarlijker wordt dan ooit.

Gebrek aan menselijkheid

De grootste zorg bij het gebruik van AI in onderzoeken, zelfs in ogenschijnlijk eenvoudige gevallen, is het risico op systematische vertekening. AI creëert op zichzelf geen vertekening; het weerspiegelt en versterkt slechts wat al in de data aanwezig is.

Volgens de Duitse televisiezender DW stelde Mimansa Ambastha, een expert in AI-strategie bij het juridisch adviesbureau Starlex Consultants (India), dat AI het menselijk geweten niet kan vervangen bij de rechtspraak. Overmatig gebruik van AI zou oordelen kunnen vertekenen.

Daarnaast waarschuwde de Braziliaanse advocaat en onderzoeker Matheus Puppe, die gespecialiseerd is in het snijvlak van AI en recht, ook voor de gevaren van de " wetenschappelijke schijn" die AI met zich meebrengt. Hij betoogde dat rechters voorzichtig moeten zijn met het beschouwen van AI-analyses als neutraal, aangezien AI kan voortbouwen op eerdere, onjuiste oordelen.

Volgens juridische experts gaat rechtspraak bovendien niet alleen over het toepassen van wiskundige formules op de wet. Het is een veelomvattend proces dat directe interpersoonlijke argumenten en psychologische empathie vereist. AI, hoe geavanceerd ook, kan de gemoedstoestand van een getuige niet 'begrijpen' aan de hand van diens ogen of stem. Dit zijn nu juist de elementen van eerlijkheid die AI mist.

Volgens internationale juridische experts moet het rechtssysteem vasthouden aan het principe dat technologie de mensheid dient en het geweten niet vervangt. Het handhaven van toezicht door rechters van vlees en bloed is niet alleen belangrijk om technische fouten te voorkomen, maar ook om de humanistische waarden van het recht te beschermen.

Samengesteld door KHANH MINH

Bron: https://www.sggp.org.vn/tri-tue-nhan-tao-khong-the-thay-the-quan-toa-post848882.html