Yapay zekâ, hakimlerin yerini alamaz.

Son yıllarda yapay zekanın (YZ) hızlı gelişimi, sağlık hizmetlerinden eğitime ve finansa kadar birçok önemli sektörün çehresini değiştirdi. Ancak bu teknoloji mahkeme salonlarına girmeye başladıkça, adalet sisteminin adalet ve etik temelleri konusunda derin bir endişe dalgası ortaya çıktı.

Estonya yargı sisteminde yapay zekanın kullanımı üzerine çalıştay (FOTOĞRAF: AVALIK)

Her zaman iyi olmuyor.

Mahkeme kararlarında yapay zekanın kullanımı ciddi riskler taşımaktadır. "Yanıltıcı" bilgilerden kaynaklanan hatalı sonuçlar, ayrımcı kararlar ve şeffaflık eksikliği endişe kaynağıdır. Yapay zeka milyonlarca bekleyen davanın çözülmesine yardımcı olabilirken, insan adaletini aşındırma riski hukuk sistemleri için önemli bir zorluk teşkil etmektedir.

Başlangıçta, yapay zekanın yargı sisteminde yer almasının en büyük itici gücü, aşırı yüklenmiş mahkeme sisteminden kaynaklanan muazzam baskıydı. Hindistan'da, 2026 yılına kadar mahkeme düzeyinde 55 milyondan fazla bekleyen dava olacak; bu sayı 2018'deki yaklaşık 29 milyon davanın neredeyse iki katı. Bunların 17 milyondan fazlası 5 yıldan fazla süredir devam ediyor. Ülkenin yargı sisteminin bu birikimi çözmesinin 300 yıldan fazla sürebileceği tahmin ediliyor. Yapay zeka, dijital bir "can simidi" olarak ortaya çıktı.

Dünyanın dört bir yanında, düşük riskli veya mekanik olarak yürütülen davaları ele almak için yapay zekâ ile denemeler yapılıyor. Estonya, küçük çaplı hukuk davaları için yarı otomatik bir sistem devreye aldı. Almanya'da Frankfurt mahkemesi, karar taslaklarının hazırlanmasına yardımcı olmak için Frauke sistemini test ediyor. Kıdemli İngiliz yargıç Geoffrey Vos, maliyetleri düşürmek için nafaka veya tazminat hesaplaması gibi kararları ele almak için yapay zekânın kullanılması olasılığını öne sürdü.

Ancak, yapay zekaya güvenmek birçok ciddi hataya yol açmıştır. Hindistan'ın Andhra Pradesh eyaletindeki bir arazi anlaşmazlığı, bir hakimin davayı tamamen var olmayan dört emsal karara dayanarak çözmesiyle bir uyarı işareti haline geldi. Bu kararlar mantıklı, doğru isimlerle ve keskin argümanlarla doluydu, ancak gerçekte bunlar sadece yapay zeka tarafından yaratılan hayali ürünlerdi. Mesele ancak davalı Yüksek Mahkemeye itiraz ettiğinde ortaya çıktı ve hakimler bunu sadece mesleki bir hata olarak değil, "yanlış davranış" olarak nitelendirdi. Benzer şekilde, Kolombiya'da bir hakim, otistik çocukların tıbbi tedavisiyle ilgili bir davada argümanlarına yardımcı olması için ChatGPT'yi kullandığını itiraf etti. New York'ta, iki avukat, chatbot GPT tarafından "oluşturulan" altı davayı referans gösteren yasal özetler sundukları için disiplin cezası aldı... Bu olaylar, yapay zekanın yargı sürecine katıldığında, yardım ile yer değiştirme arasındaki çizginin her zamankinden daha tehlikeli hale geldiğini göstermektedir.

İnsanlıktan yoksunluk

Deneylerde, hatta basit kabul edilen durumlarda bile, yapay zekanın kullanımında en büyük endişe kaynağı, sistemik önyargı riskidir. Yapay zeka kendi başına önyargı yaratmaz; yalnızca verilerde zaten mevcut olanı yansıtır ve güçlendirir.

Alman televizyon kanalı DW'ye göre, hukuk danışmanlık firması Starlex Consultants'ta (Hindistan) yapay zeka stratejisi uzmanı olan Mimansa Ambastha, yapay zekanın adaletin sağlanmasında insan vicdanının yerini alamayacağını savundu. Yapay zekanın aşırı kullanımı, yargı kararlarını çarpıtabilir.

Ayrıca, yapay zeka ve hukuk kesişiminde uzmanlaşmış Brezilyalı avukat ve araştırmacı Matheus Puppe de yapay zekanın getirdiği " bilimsel görünümün" tehlikeleri konusunda uyarılarda bulundu. Puppe, yapay zekanın geçmişteki hatalı kararlara dayanabileceği için hakimlerin yapay zeka analizlerini tarafsız olarak görmekten kaçınmaları gerektiğini savundu.

Dahası, hukuk uzmanlarına göre, yargılama sadece matematiksel formülleri hukuka uygulamaktan ibaret değildir. Doğrudan kişiler arası argümanlar ve psikolojik empati gerektiren kapsamlı bir süreçtir. Yapay zeka, ne kadar gelişmiş olursa olsun, bir tanığın ruh halini gözlerinden veya sesinden "anlayamaz". Bunlar, yapay zekanın eksik olduğu adalet unsurlarıdır.

Uluslararası hukuk uzmanlarına göre, yargı sistemi teknolojinin insanlığa hizmet etmesi, vicdanın yerini almaması ilkesini savunmalıdır. Gerçek yargıçların denetimini sürdürmek, yalnızca teknik hataları önlemek için değil, aynı zamanda hukukun insani değerlerini korumak için de gereklidir.

Khanh Minh tarafından derlenmiştir.

Kaynak: https://www.sggp.org.vn/tri-tue-nhan-tao-khong-the-thay-the-quan-toa-post848882.html