Bahaya 'robot pembunuh AI' mengancam keamanan global

Gambaran kompleks penggunaan robot pembunuh AI

Membiarkan AI mengendalikan sistem persenjataan dapat berarti target diidentifikasi, diserang, dan dihancurkan tanpa campur tangan manusia. Hal ini menimbulkan pertanyaan hukum dan etika yang serius.

Menekankan gawatnya situasi ini, Menteri Luar Negeri Austria Alexander Schallenberg mengatakan: “Ini adalah Momen Oppenheimer generasi kita.”

Robot dan senjata yang menggunakan kecerdasan buatan mulai banyak digunakan di militer di berbagai negara. Foto: Forbes

Memang, sejauh mana “jin telah lolos dari botol” telah menjadi pertanyaan yang mendesak, karena drone dan kecerdasan buatan (AI) telah banyak digunakan oleh militer di seluruh dunia .

"Penggunaan drone dalam konflik modern oleh Rusia dan Ukraina, penggunaan drone oleh AS dalam operasi serangan terarah di Afghanistan dan Pakistan, dan, seperti yang baru-baru ini terungkap bulan lalu, sebagai bagian dari program Lavender Israel, menunjukkan bagaimana kemampuan pemrosesan informasi AI secara aktif digunakan oleh militer dunia untuk meningkatkan kekuatan ofensif mereka," ujar analis pertahanan GlobalData, Wilson Jones.

Investigasi oleh Kantor Jurnalisme Investigasi Perang yang berbasis di London menemukan bahwa sistem AI Lavender milik militer Israel memiliki tingkat akurasi 90% dalam mengidentifikasi individu yang terkait dengan Hamas, yang berarti 10% tidak. Hal ini mengakibatkan kematian warga sipil karena kemampuan identifikasi dan pengambilan keputusan AI tersebut.

Ancaman terhadap keamanan global

Penggunaan AI dengan cara ini menekankan perlunya mengelola teknologi dalam sistem persenjataan.

"Penggunaan AI dalam sistem persenjataan, terutama ketika digunakan untuk penargetan, menimbulkan pertanyaan mendasar tentang kita – manusia – dan hubungan kita dengan perang, dan lebih khusus lagi asumsi kita tentang bagaimana kita dapat menggunakan kekerasan dalam konflik bersenjata," Dr. Alexander Blanchard, peneliti senior dalam program Tata Kelola Kecerdasan Buatan di Stockholm International Peace Research Institute (SIPRI), sebuah kelompok riset independen yang berfokus pada keamanan global, menjelaskan kepada Army Technology.

Sistem AI, ketika digunakan dalam lingkungan yang kacau, dapat berperilaku tak terduga dan mungkin gagal mengidentifikasi target secara akurat. Foto: MES

"Apakah AI mengubah cara militer memilih target dan menerapkan kekuatan terhadap mereka? Perubahan ini, pada gilirannya, menimbulkan sejumlah pertanyaan hukum, etika, dan operasional. Kekhawatiran terbesarnya adalah kemanusiaan," tambah Dr. Blanchard.

"Banyak yang khawatir bahwa, bergantung pada bagaimana sistem otonom dirancang dan digunakan, sistem tersebut dapat menempatkan warga sipil dan pihak lain yang dilindungi oleh hukum internasional pada risiko bahaya yang lebih besar," jelas pakar SIPRI. "Hal ini karena sistem AI, terutama ketika digunakan di lingkungan yang kacau, dapat beroperasi secara tak terduga dan mungkin gagal mengidentifikasi target dan menyerang warga sipil secara akurat, atau mengidentifikasi kombatan yang tidak sedang bertempur."

Menguraikan masalah tersebut, analis pembela GlobalData Wilson Jones mencatat bahwa masalah tentang bagaimana kesalahan ditentukan dapat dipertanyakan.

"Berdasarkan hukum perang saat ini, terdapat konsep tanggung jawab komando," ujar Tn. Jones. "Ini berarti seorang perwira, jenderal, atau pemimpin lainnya bertanggung jawab secara hukum atas tindakan pasukan di bawah komandonya. Jika pasukan melakukan kejahatan perang, perwira tersebut bertanggung jawab meskipun mereka tidak memberikan perintah; beban pembuktian ada pada mereka untuk membuktikan bahwa mereka telah melakukan segala yang mungkin untuk mencegah kejahatan perang."

"Dengan sistem AI, hal ini memperumit banyak hal. Apakah teknisi TI yang bertanggung jawab? Perancang sistem? Tidak jelas. Jika tidak jelas, hal ini menciptakan bahaya moral jika para pelaku merasa tindakan mereka tidak dilindungi oleh hukum yang berlaku," tegas Bapak Jones.

Seorang tentara AS berpatroli dengan anjing robot. Foto: Forbes

Konvensi Pengendalian Senjata. Beberapa perjanjian internasional utama membatasi dan mengatur penggunaan senjata tertentu. Terdapat larangan senjata kimia, perjanjian nonproliferasi nuklir, dan Konvensi Senjata Konvensional Tertentu, yang melarang atau membatasi penggunaan senjata tertentu yang dianggap menyebabkan penderitaan yang tidak perlu atau tidak dapat dibenarkan bagi pihak yang bertikai atau berdampak pada warga sipil tanpa pandang bulu.

"Pengendalian senjata nuklir membutuhkan kerja sama internasional dan perjanjian-perjanjian selanjutnya selama puluhan tahun untuk ditegakkan," jelas analis pertahanan Wilson Jones. "Bahkan saat itu, kami melanjutkan uji coba di atmosfer hingga tahun 1990-an. Salah satu alasan utama keberhasilan nonproliferasi nuklir adalah kerja sama antara Amerika Serikat dan Uni Soviet dalam tatanan dunia bipolar. Kerja sama itu sudah tidak ada lagi, dan teknologi yang menciptakan AI lebih mudah diakses oleh banyak negara daripada tenaga nuklir."

"Perjanjian yang mengikat harus mempertemukan semua pihak terkait untuk sepakat tidak menggunakan alat yang meningkatkan kekuatan militer mereka. Hal itu kemungkinan besar tidak akan berhasil karena AI dapat meningkatkan efektivitas militer dengan biaya finansial dan material yang minimal."

Prospek geopolitik saat ini

Meskipun negara-negara di Perserikatan Bangsa-Bangsa telah mengakui perlunya penggunaan AI secara bertanggung jawab untuk militer, masih banyak pekerjaan yang harus dilakukan.

"Tanpa kerangka regulasi yang jelas, klaim-klaim ini sebagian besar masih bersifat aspiratif," ujar Laura Petrone, analis utama di GlobalData, kepada Army Technology. "Tidak mengherankan jika beberapa negara ingin mempertahankan kedaulatan mereka sendiri ketika memutuskan masalah pertahanan dan keamanan nasional, terutama dalam iklim geopolitik saat ini."

Ibu Petrone menambahkan bahwa meskipun Undang-Undang AI Uni Eropa menetapkan beberapa persyaratan untuk sistem AI, undang-undang tersebut tidak membahas sistem AI untuk keperluan militer.

"Saya pikir terlepas dari pengecualian ini, Undang-Undang AI merupakan upaya penting untuk membangun kerangka kerja yang telah lama dinantikan untuk penerapan AI, yang dapat mengarah pada keseragaman standar yang relevan di masa mendatang," komentarnya. "Keseragaman ini juga akan penting bagi AI di ranah militer."

Nguyen Khanh

Sumber: https://www.congluan.vn/moi-nguy-robot-sat-thu-ai-dang-de-doa-an-ninh-toan-cau-post304170.html