"Mengapa AI berbahaya?"

Sebenarnya, ini bukan pertama kalinya para ilmuwan memperingatkan tentang potensi bahaya kecerdasan buatan bagi umat manusia. Pada tahun 2014, fisikawan teoretis Inggris ternama, Stephen Hawking, menyatakan: "Pengembangan penuh kecerdasan buatan dapat menghancurkan umat manusia." Ia juga memprediksi bahwa umat manusia akan sepenuhnya digantikan oleh kecerdasan buatan dalam waktu 500 tahun jika kehati-hatian tidak dilakukan dalam penelitian dan pengembangan teknologi berbahaya ini. Delapan tahun lalu, pada Juli 2015, lebih dari 1.000 pakar kecerdasan buatan, termasuk Stephen Hawking, Elon Musk, Noam Chomsky, dan lainnya, menandatangani petisi yang memperingatkan tentang risiko perlombaan senjata di bidang AI militer dan menyerukan pelarangan total senjata otonom (menggabungkan AI dan senjata mematikan). Peluncuran aplikasi Chat GPT oleh OpenAI pada November 2022 menambah peringatan lain mengenai bahaya yang melekat pada kecerdasan buatan. Faktanya, apa yang dilakukan Chat GPT menunjukkan bahwa AI, sampai batas tertentu, telah menjadi jauh lebih berbahaya daripada yang pernah dipikirkan orang.

Potensi risiko kecerdasan buatan bergantung pada bagaimana ia digunakan. Awalnya, AI dikembangkan untuk membantu manusia dalam pekerjaan mereka, terutama dengan tugas-tugas yang membosankan dan berulang seperti klasifikasi gambar dan peninjauan informasi. Namun, dengan perkembangan AI yang pesat akhir-akhir ini, para ilmuwan dan pakar teknologi khawatir bahwa jika dikembangkan tanpa pengawasan, atau diprogram untuk tujuan yang salah, kecerdasan buatan dapat memiliki konsekuensi serius bagi umat manusia dan masyarakat.

Risiko ketidakamanan

Kecerdasan buatan dapat menjadi ancaman bagi keamanan nasional dan keselamatan pribadi. Elon Musk telah memperingatkan bahwa AI dapat menjadi alat yang menakutkan dalam peperangan. Jika suatu negara dapat mengembangkan sistem kecerdasan buatan yang unggul, negara tersebut dapat menggunakannya untuk menyerang negara lain. Profesor Stuart Russell, seorang profesor ilmu komputer di Universitas California yang telah menghabiskan puluhan tahun meneliti kecerdasan buatan, memperingatkan tentang ancaman keamanan yang ditimbulkan oleh AI, dengan menyatakan bahwa kita sekarang dapat memproduksi senjata otonom dengan mengintegrasikan dan memperkecil ukuran teknologi yang ada.

Eksperimen yang dilakukan oleh Profesor Stuart Russell dan Future Life Research Institute (FLI) ini menggunakan slaughterbot – sebuah perangkat terbang mikroskopis yang dilengkapi dengan kamera, sensor, perangkat lunak pengolahan gambar, pengenalan wajah, muatan bahan peledak 3 gram, dan mikroprosesor berkecepatan tinggi yang memungkinkan analisis data dan reaksi 100 kali lebih cepat daripada otak manusia. Sesuai dengan parameter yang diprogram, slaughterbot terus-menerus mengakses data cloud untuk mencari informasi tentang targetnya dan menemukan cara untuk mendekatinya. Setelah ditemukan, ia akan melesat menuju target dengan kecepatan tinggi, meledakkan muatan bahan peledak 3 gram, dan menembus jauh ke dalam tengkorak, membunuh korban seketika.

Itu hanyalah sebuah eksperimen dengan AI pada tingkat paling sederhana. Jika AI digunakan untuk mengembangkan metode serangan baru yang lebih canggih, hal itu juga dapat meningkatkan kemampuan serangan para penyerang dan menyebabkan konsekuensi yang lebih serius daripada serangan konvensional. Ketika AI berkembang hingga mampu mengambil keputusan sendiri untuk mengatasi perubahan lingkungan, atau secara mandiri mencari target alternatif, atau memperluas jangkauan targetnya, maka mungkin umat manusia tidak akan lagi aman. Banyak kolega di bidang ini setuju dengan Profesor Stuart Russell dan percaya masih ada kesempatan untuk mencegah masa depan yang suram tersebut, tetapi kita tidak punya banyak waktu lagi.

Risikonya adalah AI akan menjadi terorganisir, otonom, dan mengendalikan sistem.

AI dapat dirancang secara salah atau "dilatih" secara tidak tepat melalui pembelajaran mesin, yang berpotensi menyebabkan tindakan yang tidak diinginkan yang membahayakan manusia dan lingkungan. Misalnya, dengan pembelajaran mesin, AI menjadi semakin cerdas. Ketika kecerdasan buatan mencapai tingkat kecerdasan di mana ia mendukung sistem-sistem penting seperti energi, transportasi, perawatan kesehatan , dan keuangan, ia dapat menguasai dan mengendalikan seluruh sistem ini, membuat keputusannya sendiri dan mengeksekusinya dalam situasi darurat. Namun, ketika AI "dilengkapi" dengan niat jahat (dirancang secara salah), ia dapat menyebabkan konsekuensi serius, seperti mengganggu sistem lalu lintas dengan menonaktifkan lampu lalu lintas atau memutus aliran listrik ke sistem kereta api perkotaan, menyebabkan kecelakaan beruntun dan pemadaman listrik yang meluas.

Banyak film Hollywood dan internasional telah diangkat berdasarkan skenario ini. Namun, dengan teknologi AI saat ini, hal ini bukan lagi prospek yang jauh tetapi sepenuhnya mungkin. Elon Musk percaya bahwa jika AI dibiarkan berkembang tanpa terkendali, hingga mampu mengotomatiskan pengambilan keputusan tanpa campur tangan manusia, hal itu dapat mengancam kelangsungan hidup manusia. Itulah mengapa ia, bersama ribuan pakar teknologi lainnya, menandatangani surat yang menuntut penghentian dan pengawasan ketat terhadap pengembangan AI secara transparan. Menurut Elon Musk, sistem kecerdasan buatan itu kompleks, sulit dipahami, dan mengendalikannya sangat menantang. Tanpa transparansi, penggunaan kecerdasan buatan untuk tujuan yang tidak etis, yang membahayakan umat manusia, tidak dapat dihindari.

Risiko kehilangan pekerjaan, pelanggaran hak privasi.

Ketika digunakan untuk mengumpulkan informasi pribadi, teknologi kecerdasan buatan dapat digunakan untuk melanggar privasi, melakukan kampanye disinformasi, dan menyebarkan informasi yang salah yang memengaruhi ketertiban sosial dan stabilitas politik. Peretasan jaringan Kantor Manajemen Personalia AS (OPM) merupakan kekhawatiran yang signifikan bagi negara atau organisasi mana pun, karena telah membocorkan data pribadi yang rinci dan sangat sensitif dari 21,5 juta pejabat AS yang masih aktif dan pensiunan, termasuk informasi tentang pasangan mereka, dan data tentang lamaran pekerjaan pemerintah seperti status kesehatan, tempat tinggal, pekerjaan, sidik jari, dan informasi keuangan. Namun, fakta yang lebih mengkhawatirkan muncul ketika CIA menemukan bahwa pelaku pencurian data OPM menggunakan kecerdasan buatan untuk memalsukan informasi pribadi dan menciptakan agen virtual untuk mencuri data. Setelah dicuri, informasi tersebut akan dianalisis, dikategorikan, dan dieksploitasi untuk tujuan tertentu menggunakan teknologi Big Data. Kecerdasan buatan membantu pencuri informasi mempersingkat waktu yang dibutuhkan untuk mengeksploitasi data karena manusia tidak mampu memproses sejumlah besar informasi dalam waktu sesingkat itu.

Selain bahaya bawaan yang telah disebutkan di atas, teknologi AI juga menciptakan risiko lain seperti: ketergantungan berlebihan padanya, yang menyebabkan hilangnya kendali atas situasi dan penurunan kemampuan pengambilan keputusan. Kecerdasan buatan juga akan menyebabkan jutaan, bahkan ratusan juta, orang kehilangan pekerjaan, terutama di pekerjaan manual murni dengan kandungan pengetahuan rendah. Akibatnya, masalah sosial serius seperti pengangguran, kejahatan, dan kesenjangan antara kaya dan miskin akan menjadi semakin nyata. Lebih lanjut, keandalan juga merupakan masalah penting. Keandalan keputusan di bidang yang sangat khusus seperti perawatan kesehatan dan peradilan pidana sangat penting. Ketika menggunakan AI untuk membantu pengambilan keputusan di bidang-bidang ini, jika teknologi tersebut tidak cukup andal, beroperasi berdasarkan data yang cenderung menguntungkan satu atau sekelompok orang, atau sengaja diputarbalikkan, keputusan tersebut berpotensi menimbulkan konsekuensi serius.

Bagaimana kita bisa mencegah hal ini?

Risiko-risiko yang telah disebutkan di atas adalah alasan mengapa Elon Musk dan para ahli teknologi khawatir tentang perkembangan AI yang tidak terkendali dan telah menulis surat yang mendesak Perserikatan Bangsa-Bangsa dan organisasi internasional untuk mengontrol secara ketat, memastikan keamanan dan etika dalam pengembangan AI; dan memperkuat kerja sama internasional untuk memastikan bahwa teknologi AI digunakan secara bermanfaat bagi umat manusia dan masyarakat. Beberapa langkah spesifik yang dapat disebutkan antara lain:

- Pengendalian keandalan sistem: AI perlu dirancang dan dikembangkan untuk memastikan keamanan dan keandalan melalui metode pengendalian mutu, pemantauan, dan pengawasan yang ketat, sering, dan berkelanjutan guna memastikan sistem AI beroperasi sesuai dengan yang diharapkan manusia dan menghindari dampak yang tidak diinginkan akibat ketidakandalannya.

Teknologi kecerdasan buatan (AI) perlu diprogram untuk beroperasi sesuai dengan nilai-nilai etika dan norma-norma sosial. Regulasi dan standar ini harus ditetapkan dan dipantau secara jelas untuk memastikan bahwa teknologi tersebut tidak melakukan hal-hal yang merugikan atau membahayakan individu atau organisasi. Proses analisis, evaluasi dampak, dan pemantauan kinerja sistem AI juga harus dilakukan secara teratur untuk memastikan bahwa sistem tersebut beroperasi secara etis, tidak melanggar atau mengikis nilai-nilai umum masyarakat, tidak menimbulkan dampak negatif, dan memastikan penyampaian pengetahuan dan nilai-nilai yang akurat.

Jurnalisme adalah salah satu industri yang paling terpengaruh oleh kecerdasan buatan. Di masa depan, tidak akan ada lagi kebutuhan akan presenter di luar layar untuk program radio, dan presenter virtual untuk acara televisi bahkan akan menjadi dominan.

- Menghentikan sementara "pelatihan" sistem kecerdasan buatan setidaknya selama enam bulan untuk menilai kembali seluruh masalah. Jeda ini harus bersifat publik, terkontrol, dan semua pemangku kepentingan utama yang terlibat dalam pelatihan harus mematuhinya. Jika perlu, pemerintah harus mengeluarkan larangan sementara. Ini bukan berarti penghentian total pengembangan AI, tetapi hanya jeda sementara dalam perlombaan berbahaya untuk beralih ke model pengembangan lain yang membuat sistem AI lebih akurat, aman, mudah dipahami, transparan, relevan, andal, dan loyal. Ini adalah solusi komprehensif yang dianjurkan Elon Musk dan rekan-rekannya dalam surat terbuka mereka, tetapi kelayakannya rendah. Sangat sulit bagi semua laboratorium independen untuk mematuhi seruan yang tidak mengikat dan transnasional tersebut.

- Memperkuat kerja sama dan berbagi informasi antar negara dan organisasi penelitian AI independen sangat penting untuk memastikan bahwa AI dikembangkan dan digunakan dengan aman di masa depan. Kerja sama dan berbagi informasi juga memungkinkan peringatan tepat waktu dan pencegahan terhadap risiko yang muncul.

Secara umum, AI sudah ada di mana-mana di sekitar kita, dan cerita seperti kecerdasan buatan yang menulis puisi, musik, dan artikel telah menjadi kenyataan, bukan lagi fiksi ilmiah. Penulis artikel ini telah menggunakan teknologi AI pada komputer dan telepon untuk membantu dalam penulisan, membuat prosesnya lebih lancar dan cepat. Secara khusus, paragraf pengantar (chapeau) dan beberapa ide disarankan oleh AI, dan yang lebih luar biasa lagi, semua gambar yang digunakan dalam artikel ini dibuat oleh AI. Teknologi kecerdasan buatan sangat berguna dalam meningkatkan kualitas kerja dan kehidupan manusia, tetapi perlu dikendalikan dengan ketat untuk mencegahnya lepas kendali dan menjadi pengganti potensial bagi manusia di masa depan, seperti yang diprediksi oleh fisikawan teoretis Stephen Hawking.

Teks dan foto: HUU DUONG

Sumber