Kecerdasan buatan tidak dapat menggantikan hakim.

Perkembangan pesat kecerdasan buatan (AI) dalam beberapa tahun terakhir telah mengubah lanskap banyak sektor kunci, mulai dari perawatan kesehatan dan pendidikan hingga keuangan. Namun, seiring teknologi ini mulai memasuki ruang sidang, gelombang kekhawatiran mendalam telah muncul mengenai keadilan dan landasan etika sistem peradilan.

Lokakarya tentang penggunaan AI dalam sistem peradilan Estonia (FOTO: AVALIK)

Tidak selalu baik.

Penggunaan AI dalam putusan pengadilan membawa risiko serius. Hasil yang tidak akurat akibat informasi yang "ilusi", keputusan diskriminatif, dan kurangnya transparansi merupakan beberapa kekhawatiran. Meskipun AI dapat membantu menyelesaikan jutaan kasus yang tertunda, risiko terkikisnya keadilan manusia menimbulkan tantangan signifikan bagi sistem hukum.

Awalnya, pendorong terbesar kehadiran AI di bidang peradilan adalah tekanan besar dari sistem pengadilan yang kelebihan beban. Di India, pada tahun 2026, negara ini akan memiliki lebih dari 55 juta kasus yang tertunda di tingkat pengadilan, hampir dua kali lipat dari sekitar 29 juta kasus pada tahun 2018. Dari jumlah tersebut, lebih dari 17 juta kasus telah berlarut-larut selama lebih dari 5 tahun. Diperkirakan bahwa sistem peradilan negara tersebut dapat membutuhkan waktu lebih dari 300 tahun untuk menyelesaikan tumpukan kasus ini. AI muncul sebagai "penyelamat" digital.

Di seluruh dunia , banyak tempat telah bereksperimen dengan AI untuk menangani kasus-kasus berisiko rendah atau yang ditangani secara mekanis. Estonia telah menerapkan sistem semi-otomatis untuk gugatan perdata ringan. Di Jerman, pengadilan Frankfurt sedang menguji sistem Frauke untuk membantu dalam penyusunan putusan. Hakim senior Inggris, Geoffrey Vos, telah menyarankan kemungkinan penggunaan AI untuk menangani keputusan seperti menghitung tunjangan nafkah atau ganti rugi untuk menghemat biaya.

Namun, ketergantungan pada AI telah menyebabkan banyak kesalahan serius. Sengketa tanah di Andhra Pradesh (India) menjadi tanda peringatan ketika seorang hakim menyelesaikan kasus tersebut berdasarkan empat preseden yang sama sekali tidak ada. Putusan-putusan ini terdengar logis, lengkap dengan nama-nama yang tepat dan argumen yang tajam, tetapi pada kenyataannya, itu hanyalah produk imajiner yang diciptakan oleh AI. Masalah ini baru terungkap ketika terdakwa mengajukan banding ke Mahkamah Agung, di mana para hakim menyebut tindakan tersebut sebagai "pelanggaran" dan bukan sekadar kesalahan profesional. Demikian pula, di Kolombia, seorang hakim mengakui menggunakan ChatGPT untuk membantu argumennya dalam kasus yang berkaitan dengan perawatan medis untuk anak-anak autis. Di New York, dua pengacara dikenai sanksi karena menyerahkan ringkasan hukum yang mengutip enam kasus yang "dibuat" oleh chatbot GPT... Insiden-insiden ini menunjukkan bahwa ketika AI berpartisipasi dalam proses peradilan, garis antara bantuan dan penggantian menjadi lebih berbahaya dari sebelumnya.

Kurangnya kemanusiaan

Kekhawatiran paling mendalam saat menggunakan AI dalam persidangan, bahkan dalam kasus yang dianggap sederhana, adalah risiko bias sistemik. AI tidak menciptakan bias dengan sendirinya; AI hanya mencerminkan dan memperkuat apa yang sudah ada dalam data.

Menurut saluran televisi Jerman DW, Mimansa Ambastha, seorang ahli strategi AI di firma konsultan hukum Starlex Consultants (India), menegaskan bahwa AI tidak dapat menggantikan hati nurani manusia dalam menegakkan keadilan. Jika AI digunakan secara berlebihan, hal itu dapat mendistorsi putusan.

Selain itu, pengacara dan peneliti Brasil, Matheus Puppe, yang berspesialisasi dalam persimpangan AI dan hukum, juga memperingatkan tentang bahaya "penampilan ilmiah " yang dibawa oleh AI. Ia berpendapat bahwa hakim harus berhati-hati dalam memandang analisis AI sebagai netral, karena AI mungkin bergantung pada putusan keliru di masa lalu.

Lebih lanjut, menurut para ahli hukum, proses peradilan bukan hanya tentang menerapkan rumus matematika pada hukum. Ini adalah proses komprehensif yang membutuhkan argumen interpersonal langsung dan empati psikologis. AI, seberapa canggih pun, tidak dapat "memahami" suasana hati saksi melalui mata atau suara mereka. Justru unsur-unsur keadilan inilah yang tidak dimiliki AI.

Menurut para ahli hukum internasional, sistem peradilan perlu menjunjung tinggi prinsip bahwa teknologi melayani kemanusiaan, bukan menggantikan hati nurani. Mempertahankan pengawasan oleh hakim manusia bukan hanya untuk menghindari kesalahan teknis, tetapi juga untuk melindungi nilai-nilai kemanusiaan dalam hukum.

Disusun oleh KHANH MINH

Sumber: https://www.sggp.org.vn/tri-tue-nhan-tao-khong-the-thay-the-quan-toa-post848882.html