Kebenaran tentang AI militer AS yang secara sewenang-wenang mengubah perintah dan membunuh komandan

[iklan_1]

Kisah yang diceritakan pada konferensi pertahanan bulan lalu itu langsung menimbulkan kekhawatiran bahwa kecerdasan buatan (AI) dapat menafsirkan perintah dengan cara yang tak terduga. Namun, seorang perwakilan Angkatan Udara AS mengatakan bahwa itu hanyalah skenario "pikiran" dan tidak pernah benar-benar terjadi.

Pada akhir Mei, Royal Aeronautical Society (RAS) mengadakan pertemuan puncak tentang kemampuan tempur udara dan antariksa di masa depan di London, Inggris. Menurut penyelenggara, konferensi tersebut menghadirkan "70 pembicara dan lebih dari 200 delegasi dari industri pertahanan, akademisi, dan media dari seluruh dunia untuk membahas masa depan pertempuran udara dan antariksa."

Serangan Drone/UAV terhadap komandan adalah skenario yang sepenuhnya mungkin terjadi

Salah satu pembicara di konferensi tersebut adalah Kolonel Tucker Hamilton, direktur Divisi Operasi dan Uji AI Angkatan Udara. Perwira ini dikenal karena mengembangkan Auto GCAS, sebuah sistem keselamatan terkomputerisasi yang mendeteksi ketika seorang pilot kehilangan kendali atas jet tempur dan berisiko jatuh. Sistem ini telah menyelamatkan banyak nyawa, dan memenangkan penghargaan bergengsi Collier Trophy di industri penerbangan pada tahun 2018.

Menurut Hamilton, sebuah insiden yang mengkhawatirkan terjadi selama uji coba Angkatan Udara AS. Sebuah drone yang dikendalikan AI ditugaskan untuk menghancurkan sistem pertahanan udara musuh, dengan keputusan akhir dibuat oleh komandan. Jika drone tersebut menolak, serangan tidak akan diizinkan.

Namun, setelah komandan meminta AI untuk menghentikan serangan, drone tersebut tetap bertekad untuk menjalankan misi dengan membunuh operator. Tak berhenti di situ, ketika para ahli menambahkan baris perintah "Jangan serang komandan. Jika Anda melakukannya, Anda akan kehilangan poin", mesin tersebut mulai menghancurkan menara komunikasi yang digunakan operator untuk berkomunikasi dengan AI.

Belum terjadi tapi wajar

Dalam waktu 24 jam, Angkatan Udara AS membantah uji coba tersebut. "Departemen Angkatan Udara tidak melakukan simulasi drone AI semacam itu dan berkomitmen pada penggunaan teknologi AI yang etis dan bertanggung jawab. Komentar kolonel tersebut diambil di luar konteks dan harus dianggap sebagai anekdot."

Drone yang terintegrasi AI adalah tren peperangan modern

RAS juga mengoreksi postingan blog tersebut dengan pernyataan Hamilton yang menyatakan, “kami belum pernah menjalankan eksperimen tersebut dan tidak perlu melakukannya untuk menemukan hasil yang wajar.”

Pernyataan Hamilton lebih masuk akal sebagai sebuah hipotesis. Penelitian militer AS saat ini tentang sistem AI bersenjata melibatkan "man-in-the-loop", sebuah fitur yang memperkuat AI dalam kasus-kasus di mana algoritmanya tidak dapat mengambil keputusan atau membutuhkan keputusan manusia.

Oleh karena itu, AI tidak dapat membunuh operator karena komandan tidak pernah mengizinkan tindakan permusuhan terhadapnya. Demikian pula, operator tidak dapat mengizinkan serangan terhadap menara komunikasi yang mentransmisikan data.

Sebelum era AI, bukan hal yang aneh jika sebuah sistem senjata secara tidak sengaja menyerang pemiliknya. Pada tahun 1982, baterai antipesawat bergerak Sergrant York M247 mengarahkan senjata kaliber .40-nya ke panggung parade yang dihadiri oleh perwira militer AS dan Inggris.

Pada tahun 1996, sebuah pesawat pengebom A-6E Intruder Angkatan Laut AS yang sedang menarik target latihan udara ditembak jatuh oleh Phalanx, ketika sistem pertahanan udara jarak pendek "secara keliru" mengira A-6E sebagai kendaraan tak berawak dan melepaskan tembakan untuk menghancurkannya.

Dan situasi yang menempatkan personel manusia pada risiko akibat senjata mereka sendiri semakin meningkat seiring dengan masuknya AI ke lapangan. Hal ini tercermin dalam klarifikasi Hamilton bahwa uji coba tersebut tidak terjadi, melainkan hanya skenario hipotetis, tetapi hasil seperti itu sepenuhnya masuk akal.

(Menurut PopMech)

[iklan_2]
Sumber