Bahaya 'robot pembunuh AI' mengancam keselamatan global

Gambaran kompleks penggunaan robot pembunuh AI

Membenarkan AI mengawal sistem senjata boleh bermakna sasaran dikenal pasti, diserang dan dimusnahkan tanpa campur tangan manusia. Ini menimbulkan persoalan undang-undang dan etika yang serius.

Menjelaskan betapa seriusnya keadaan itu, Menteri Luar Austria Alexander Schallenberg berkata: "Ini adalah Detik Oppenheimer generasi kita."

Bahaya robot pembunuh mengancam keselamatan global. — Robot dan senjata menggunakan kecerdasan buatan mula digunakan secara meluas dalam tentera banyak negara. Foto: Forbes

Sememangnya, sejauh mana "jin telah melarikan diri dari botol" telah menjadi persoalan yang mendesak, kerana dron dan kecerdasan buatan (AI) telah digunakan secara meluas oleh tentera di seluruh dunia .

"Penggunaan dron dalam konflik moden oleh Rusia dan Ukraine, penggunaan dron oleh AS dalam operasi serangan yang disasarkan di Afghanistan dan Pakistan dan, seperti yang didedahkan baru-baru ini bulan lepas, sebagai sebahagian daripada program Lavender Israel, menunjukkan bagaimana keupayaan pemprosesan maklumat AI sedang digunakan secara aktif oleh tentera dunia untuk meningkatkan kuasa serangan mereka," kata penganalisis pertahanan GlobalData, Wilson Jones.

Siasatan oleh Pejabat Kewartawanan Penyiasatan Perang yang berpangkalan di London mendapati bahawa sistem AI Lavender tentera Israel mempunyai kadar ketepatan 90% dalam mengenal pasti individu yang mempunyai pautan Hamas, bermakna 10% tidak. Ini mengakibatkan kematian orang awam disebabkan oleh pengenalan AI dan keupayaan membuat keputusan.

Ancaman kepada keselamatan global

Menggunakan AI dengan cara ini menekankan keperluan untuk mengurus teknologi dalam sistem senjata.

"Penggunaan AI dalam sistem senjata, terutamanya apabila digunakan untuk menyasarkan, menimbulkan persoalan asas tentang kita - manusia - dan hubungan kita dengan peperangan, dan lebih khusus andaian kita tentang bagaimana kita boleh menggunakan keganasan dalam konflik bersenjata," Dr. Alexander Blanchard, rakan penyelidik kanan dalam program Tadbir Urus Kepintaran Buatan di Institut Penyelidikan Keamanan Antarabangsa Stockholm (SIPRI), kumpulan penyelidikan bebas yang memberi tumpuan kepada keselamatan global, menjelaskan kepada Tentera Darat.

"Adakah AI mengubah cara tentera memilih sasaran dan menggunakan kekerasan terhadapnya? Perubahan ini, seterusnya, menimbulkan pelbagai persoalan undang-undang, etika dan operasi. Kebimbangan terbesar adalah kemanusiaan," tambah Dr. Blanchard.

"Ramai yang bimbang, bergantung pada cara sistem autonomi direka dan digunakan, mereka boleh meletakkan orang awam dan orang lain yang dilindungi oleh undang-undang antarabangsa pada risiko yang lebih besar," jelas pakar SIPRI itu. "Ini kerana sistem AI, terutamanya apabila digunakan dalam persekitaran huru-hara, boleh beroperasi tanpa diduga dan mungkin gagal untuk mengenal pasti sasaran dengan tepat dan menyerang orang awam, atau untuk mengenal pasti pejuang yang tidak berada dalam pertempuran."

Mengulas lanjut mengenai perkara itu, penganalisis pertahanan GlobalData Wilson Jones menyatakan bahawa isu bagaimana rasa bersalah ditentukan boleh dipersoalkan.

"Di bawah undang-undang perang semasa, terdapat konsep tanggungjawab perintah," kata Encik Jones. "Ini bermakna seorang pegawai, jeneral atau pemimpin lain bertanggungjawab secara sah terhadap tindakan tentera di bawah perintah mereka. Jika tentera melakukan jenayah perang, pegawai itu bertanggungjawab walaupun mereka tidak memberi arahan; beban pembuktian terletak pada mereka untuk membuktikan bahawa mereka melakukan segala yang mungkin untuk mencegah jenayah perang."

"Dengan sistem AI, ini merumitkan perkara. Adakah juruteknik IT bertanggungjawab? Pereka sistem? Ia tidak jelas. Jika tidak jelas, ia mewujudkan bahaya moral jika pelakon berpendapat tindakan mereka tidak dilindungi oleh undang-undang sedia ada," tegas Encik Jones.

Konvensyen kawalan senjata Beberapa perjanjian antarabangsa utama mengehadkan dan mengawal selia penggunaan senjata tertentu. Terdapat larangan senjata kimia, perjanjian tanpa percambahan nuklear dan Konvensyen mengenai Senjata Konvensional Tertentu, yang melarang atau mengehadkan penggunaan senjata tertentu yang dianggap menyebabkan penderitaan yang tidak perlu atau tidak wajar kepada pihak yang berperang atau menjejaskan orang awam secara sembarangan.

"Kawalan senjata nuklear memerlukan dekad kerjasama antarabangsa dan perjanjian seterusnya dikuatkuasakan," jelas penganalisis pertahanan Wilson Jones. "Walaupun begitu, kami meneruskan ujian atmosfera sehingga tahun 1990-an. Sebab utama mengapa tidak proliferasi nuklear berjaya adalah kerana kerjasama antara Amerika Syarikat dan Kesatuan Soviet dalam susunan dunia bipolar. Itu tidak lagi wujud, dan teknologi yang mencipta AI lebih mudah diakses oleh banyak negara daripada kuasa nuklear."

"Perjanjian yang mengikat perlu membawa semua pemain yang berkaitan ke meja untuk bersetuju untuk tidak menggunakan alat yang meningkatkan kuasa ketenteraan mereka. Itu tidak mungkin berfungsi kerana AI boleh meningkatkan keberkesanan ketenteraan pada kos kewangan dan material yang minimum."

Tinjauan geopolitik semasa

Walaupun negara-negara di Pertubuhan Bangsa-Bangsa Bersatu telah mengakui keperluan untuk penggunaan ketenteraan yang bertanggungjawab AI, masih banyak kerja yang perlu dilakukan.

"Tanpa rangka kerja kawal selia yang jelas, dakwaan ini sebahagian besarnya kekal sebagai aspirasi," Laura Petrone, penganalisis utama di GlobalData, memberitahu Teknologi Tentera. “Tidak menghairankan bahawa sesetengah negara mahu mengekalkan kedaulatan mereka sendiri apabila membuat keputusan mengenai hal-hal pertahanan dalam negeri dan keselamatan negara, terutamanya dalam iklim geopolitik semasa.”

Cik Petrone menambah bahawa walaupun Akta AI EU menetapkan beberapa keperluan untuk sistem AI, ia tidak menangani sistem AI untuk tujuan ketenteraan.

"Saya fikir walaupun pengecualian ini, Akta AI adalah usaha penting untuk mewujudkan rangka kerja yang telah lama tertunggak untuk aplikasi AI, yang boleh membawa kepada beberapa tahap keseragaman piawaian yang berkaitan pada masa hadapan," ulasnya. "Keseragaman ini juga penting untuk AI dalam domain ketenteraan."

Nguyen Khanh

Sumber: https://www.congluan.vn/moi-nguy-robot-sat-thu-ai-dang-de-doa-an-ninh-toan-cau-post304170.html