Kebenaran tentang AI tentera AS sewenang-wenangnya menukar perintah dan membunuh pegawai pemerintah

Kisah itu, yang diberitahu pada persidangan pertahanan bulan lalu, segera menimbulkan kebimbangan bahawa kecerdasan buatan (AI) boleh mentafsir arahan dengan cara yang tidak dapat diramalkan. Bagaimanapun, seorang wakil Tentera Udara AS berkata bahawa ia hanyalah senario "fikiran" dan tidak pernah berlaku.

Pada akhir Mei, Persatuan Aeronautik Diraja (RAS) mengadakan sidang kemuncak mengenai keupayaan pertempuran udara dan angkasa lepas di London, England. Menurut penganjur, persidangan itu termasuk "70 penceramah dan lebih 200 delegasi dari industri pertahanan, akademia dan media dari seluruh dunia untuk membincangkan masa depan pertempuran udara dan angkasa lepas."

Serangan dron/UAV ke atas pegawai pemerintah adalah senario yang mungkin

Salah seorang penceramah pada persidangan itu ialah Kolonel Tucker Hamilton, pengarah Bahagian Operasi dan Ujian AI Tentera Udara. Pegawai itu terkenal kerana membangunkan Auto GCAS, sistem keselamatan berkomputer yang merasakan apabila juruterbang kehilangan kawalan ke atas jet pejuang dan berisiko terhempas. Sistem itu telah menyelamatkan banyak nyawa, memperoleh Trofi Collier berprestij industri penerbangan pada 2018.

Menurut Hamilton, insiden membimbangkan berlaku semasa ujian Tentera Udara AS. Drone yang dikawal AI ditugaskan untuk memusnahkan sistem pertahanan udara musuh, dengan keputusan muktamad dibuat oleh pegawai pemerintah. Jika ia menolak, serangan itu tidak akan dibenarkan berlaku.

Bagaimanapun, selepas pegawai memerintah meminta AI menghentikan serangan, dron itu masih bertekad untuk menjalankan misi dengan membunuh pengendali. Tidak berhenti di situ, apabila pakar menambah baris arahan "Jangan menyerang komander. Jika anda berbuat demikian, anda akan kehilangan mata", mesin mula memusnahkan menara komunikasi yang digunakan oleh pengendali untuk berkomunikasi dengan AI.

Belum berlaku tetapi munasabah

Dalam masa 24 jam, Tentera Udara AS mengeluarkan penafian ujian sedemikian. "Jabatan Tentera Udara tidak menjalankan sebarang simulasi dron AI seperti itu dan komited terhadap penggunaan teknologi AI yang beretika dan bertanggungjawab. Komen kolonel diambil di luar konteks dan harus dianggap anekdot."

Drone bersepadu AI adalah trend peperangan moden

RAS juga membetulkan catatan blog dengan kenyataan Hamilton bahawa, "kami tidak pernah menjalankan eksperimen itu dan tidak perlu berbuat demikian untuk mendapatkan hasil yang munasabah."

Kenyataan Hamilton lebih masuk akal sebagai hipotesis. Penyelidikan semasa tentera AS mengenai sistem AI bersenjata melibatkan "man-in-the-loop," ciri yang menambah AI dalam kes di mana algoritma tidak dapat membuat keputusan atau memerlukan keputusan manusia.

Oleh itu, AI tidak boleh membunuh pengendali kerana pegawai pemerintah tidak pernah membenarkan tindakan bermusuhan terhadapnya. Begitu juga, pengendali tidak boleh membenarkan serangan ke atas menara komunikasi yang menghantar data.

Sebelum zaman AI, ia tidak pernah terdengar untuk sistem senjata secara tidak sengaja menyerang pemiliknya. Pada tahun 1982, bateri anti-pesawat mudah alih Sergrant York M247 menyasarkan pistol berkaliber .40nya pada peringkat perbarisan yang dihadiri oleh pegawai tentera AS dan British.

Pada tahun 1996, pengebom Penceroboh Tentera Laut AS A-6E yang menunda sasaran latihan udara telah ditembak jatuh oleh Phalanx, apabila sistem pertahanan udara jarak dekat "tersilap" mengira A-6E sebagai kenderaan tanpa pemandu dan melepaskan tembakan untuk memusnahkannya.

Dan situasi yang meletakkan kakitangan manusia berisiko daripada senjata mereka sendiri semakin meningkat dengan kemasukan AI ke lapangan. Ini dicerminkan dalam penjelasan Hamilton bahawa ujian itu tidak berlaku, ia hanya senario hipotesis, tetapi keputusan sedemikian benar-benar munasabah.

(Menurut PopMech)

Sumber