Anggap AI seperti senjata biologi, bukan bom nuklear!

Baru-baru ini, Gizmodo.com, sebuah tapak web teknologi maklumat yang mengkhususkan diri dalam mengemas kini berita hangat tentang arah aliran teknologi yang terkenal di dunia , menerbitkan analisis tentang cara orang ramai merawat teknologi kecerdasan buatan (AI).

Chuyên gia Mỹ: Hãy đối xử với AI như vũ khí sinh học, không phải bom hạt nhân! (Nguồn: gizmodo.com)

Ilustrasi panggilan untuk merawat AI sebagai senjata biologi. (Sumber: gizmodo.com)

Dalam artikel Anggap AI sebagai senjata biologi, bukan senjata nuklear oleh Emilia Javorsky, seorang saintis -doktor dan Pengarah Institut Masa Depan Kehidupan (AS), penulis berpendapat bahawa walaupun dunia baru-baru ini telah berulang kali membandingkan AI dengan bom nuklear, terdapat pendekatan yang lebih sesuai, iaitu mengawal selia jenis teknologi ini sebagai senjata biologi atau bioteknologi.

Menurut penulis, AI mungkin teknologi paling berkuasa dalam sejarah manusia yang sedang dibangunkan manusia hari ini. Kesan berbahaya AI, termasuk diskriminasi, ancaman kepada demokrasi dan penumpuan pengaruh, telah didokumenkan dengan baik.

Namun syarikat AI terkemuka berlumba-lumba untuk membina sistem AI yang semakin berkuasa, meningkatkan risiko pada kadar yang tidak pernah berlaku sebelum ini dalam sejarah manusia.

Semasa pemimpin bergelut dengan cara membendung dan mengawal peningkatan AI dan risiko yang berkaitan, mereka perlu mempertimbangkan peraturan dan piawaian yang sama yang digunakan oleh manusia untuk menciptanya pada masa lalu.

Pelarasan dan inovasi boleh wujud bersama, terutamanya apabila nyawa manusia dipertaruhkan.

Amaran daripada teknologi nuklear

Walaupun tenaga nuklear lebih 600 kali lebih selamat daripada minyak dari segi kematian dan sangat cekap, beberapa negara menyentuhnya kerana akibat yang telah mereka lihat daripada pendekatan lama terhadap nuklear.

Dunia belajar tentang teknologi nuklear dalam bentuk bom atom dan bom hidrogen. Dengan senjata ini, buat pertama kali dalam sejarah, manusia membangunkan teknologi yang mampu menamatkan tamadun manusia, produk perlumbaan senjata yang mengutamakan kelajuan dan inovasi berbanding keselamatan dan kawalan.

Kegagalan seterusnya dalam keselamatan teknikal dan pengurusan risiko, yang terkenal bertanggungjawab terhadap bencana nuklear di Chernobyl dan Fukushima, memusnahkan sebarang peluang orang ramai menerima aspek positif tenaga nuklear.

Walaupun penilaian risiko keseluruhan yang menggalakkan terhadap kuasa nuklear dan beberapa dekad saintis berusaha untuk meyakinkan dunia tentang daya majunya, konsep 'nuklear' tetap…tercemar.

Apabila teknologi menyebabkan kemudaratan pada peringkat awalnya, kesedaran sosial dan tindak balas berlebihan boleh mengehadkan potensi manfaatnya secara kekal. Kerana kesilapan awal dengan kuasa nuklear, manusia tidak dapat memanfaatkan sumber tenaga yang bersih dan selamat, dan neutraliti karbon dan kestabilan tenaga kekal sebagai impian paip.

Pendekatan yang betul untuk bioteknologi

Namun di sesetengah kawasan, orang ramai telah melakukannya dengan betul. Bioteknologi adalah salah satu bidang tersebut, digalakkan untuk berkembang pesat dalam konteks ramai pesakit yang menderita dan ramai yang mati setiap hari akibat penyakit yang tiada penawarnya.

Etos penyelidikan ini bukan untuk 'bergerak pantas dan memecahkan sesuatu', tetapi untuk berinovasi secepat dan secepat mungkin. Manusia mengehadkan rentak inovasi dalam bidang ini dengan sistem peraturan, etika dan norma yang melindungi kebajikan masyarakat dan individu, dan melindungi industri daripada lumpuh akibat tindak balas yang boleh membawa kepada bencana.

Apabila senjata biologi diharamkan di Konvensyen Senjata Biologi semasa Perang Dingin, kuasa besar lawan bersetuju bahawa penciptaan senjata sedemikian tidak ada kepentingan sesiapa. Para pemimpin melihat bahawa teknologi yang sukar dikawal tetapi sangat mudah diakses ini tidak seharusnya dilihat sebagai mekanisme untuk memenangi perlumbaan senjata, tetapi sebagai ancaman kepada manusia itu sendiri.

Emilia Javorsky adalah salah seorang saintis yang baru-baru ini menandatangani surat terbuka yang menyokong moratorium enam bulan ke atas pembangunan AI. Dia juga menandatangani satu kenyataan yang memberi amaran bahawa AI menimbulkan "risiko kepupusan" kepada manusia.

Jeda dalam perlumbaan bioweapons membolehkan manusia membangunkannya pada kadar yang bertanggungjawab, dengan saintis dan pengawal selia menggunakan piawaian yang ketat untuk sebarang inovasi baharu yang berpotensi membahayakan manusia.

Pelarasan ini bukan tanpa kos tetapi juga telah mewujudkan bioekonomi , dengan banyak aplikasi dalam bidang daripada tenaga bersih kepada pertanian.

Semasa pandemik Covid-19, ahli biologi telah menggunakan teknologi mRNA untuk menghasilkan vaksin yang berkesan pada kelajuan yang belum pernah terjadi sebelumnya dalam sejarah manusia.

Tinjauan penyelidik AI baru-baru ini mendapati bahawa 36% responden merasakan AI boleh menyebabkan bencana peringkat nuklear. Walau bagaimanapun, maklum balas dan peraturan kerajaan adalah perlahan, yang tidak konsisten dengan kadar penggunaan teknologi, dengan aplikasi ChatGPT kini melepasi 100 juta pengguna.

Risiko AI yang semakin meningkat dengan pantas telah mendorong 1,800 CEO dan 1,500 profesor di AS baru-baru ini menandatangani surat yang menyeru supaya berhenti selama enam bulan dalam pembangunan AI dan proses pengawalseliaan serta pengurangan risiko yang mendesak. Jeda ini akan memberi masa kepada komuniti global untuk mengehadkan bahaya yang disebabkan oleh AI dan mencegah risiko bencana yang tidak dapat dipulihkan untuk masyarakat kita.

Semasa menilai risiko dan potensi bahaya AI, kita juga mesti mempertimbangkan cara untuk mengelakkan kehilangan potensi positif teknologi ini. Jika kita membangunkan AI secara bertanggungjawab sekarang, kita akan dapat meraih faedah yang luar biasa daripada teknologi ini. Sebagai contoh, faedah menggunakan AI untuk penemuan dan pembangunan ubat, meningkatkan kualiti dan kos penjagaan kesihatan, dan meningkatkan akses kepada doktor dan rawatan perubatan.

DeepMind Google telah menunjukkan bahawa AI mempunyai potensi untuk menyelesaikan masalah asas dalam biologi yang telah lama dielakkan oleh manusia. Menurut kajian itu, AI boleh mempercepatkan pencapaian semua Matlamat Pembangunan Lestari Pertubuhan Bangsa-Bangsa Bersatu, menggerakkan manusia ke arah masa depan kesihatan yang lebih baik, ekuiti, kemakmuran dan keamanan.

Sudah tiba masanya untuk komuniti global bersatu, seperti yang dilakukan 50 tahun lalu di Konvensyen Senjata Biologi, untuk memastikan pembangunan AI selamat dan bertanggungjawab. Jika kita tidak bertindak segera, kita berisiko memusnahkan masa depan yang cerah AI dan masyarakat semasa kita sendiri.

Sumber