Malah, ini bukanlah kali pertama saintis memberi amaran tentang potensi bahaya kecerdasan buatan kepada manusia. Pada tahun 2014, ahli fizik teori British yang terkenal, Stephen Hawking, menyatakan: "Perkembangan penuh kecerdasan buatan boleh memusnahkan manusia." Beliau juga meramalkan bahawa manusia akan digantikan sepenuhnya oleh kecerdasan buatan dalam tempoh 500 tahun jika langkah berjaga-jaga tidak diambil dalam penyelidikan dan pembangunan teknologi berbahaya ini. Lapan tahun yang lalu, pada Julai 2015, lebih daripada 1,000 pakar dalam kecerdasan buatan, termasuk Stephen Hawking, Elon Musk, Noam Chomsky, dan lain-lain, menandatangani petisyen yang memberi amaran tentang risiko perlumbaan senjata dalam bidang AI ketenteraan dan menyeru larangan sepenuhnya terhadap senjata autonomi (menggabungkan AI dan senjata maut). Pelancaran aplikasi Chat GPT oleh OpenAI pada November 2022 menambah satu lagi loceng penggera mengenai bahaya kecerdasan buatan yang wujud. Malah, apa yang dilakukan oleh Chat GPT menunjukkan bahawa AI, sehingga tahap tertentu, telah menjadi jauh lebih berbahaya daripada yang disangkakan oleh orang ramai.
Potensi risiko kecerdasan buatan bergantung pada cara ia digunakan. Pada mulanya, AI dibangunkan untuk membantu manusia dalam kerja mereka, terutamanya dengan tugas yang membosankan dan berulang seperti pengelasan imej dan semakan maklumat. Walau bagaimanapun, dengan perkembangan pesat AI kebelakangan ini, saintis dan pakar teknologi bimbang jika dibangunkan tanpa disemak, atau diprogramkan untuk tujuan yang salah, kecerdasan buatan boleh membawa akibat yang serius kepada manusia dan masyarakat.
Risiko ketidakamanan
Kecerdasan buatan boleh menjadi ancaman kepada keselamatan negara dan keselamatan diri. Elon Musk telah memberi amaran bahawa AI boleh menjadi alat yang menakutkan dalam peperangan. Jika sesebuah negara boleh membangunkan sistem kecerdasan buatan yang unggul, ia boleh menggunakannya untuk menyerang negara lain. Profesor Stuart Russell, seorang profesor sains komputer di Universiti California yang telah menghabiskan beberapa dekad menyelidik kecerdasan buatan, memberi amaran tentang ancaman keselamatan yang ditimbulkan oleh AI, dengan menyatakan bahawa kita kini boleh menghasilkan senjata autonomi dengan mengintegrasikan dan mengecilkan teknologi sedia ada.
Eksperimen yang dijalankan oleh Profesor Stuart Russell dan Institut Penyelidikan Kehidupan Masa Depan (FLI) itu menggunakan bot penyembelih – peranti terbang mikroskopik yang dilengkapi dengan kamera, sensor, perisian pemprosesan imej, pengecaman wajah, cas letupan 3 gram dan mikropemproses berkelajuan tinggi yang membolehkan analisis data dan tindak balas 100 kali lebih pantas daripada otak manusia. Mengikut parameter yang diprogramkan, bot penyembelih sentiasa mengakses data awan untuk mencari maklumat tentang sasarannya dan mencari cara untuk mendekatinya. Sebaik sahaja ditemui, ia akan meluru ke arah sasaran pada kelajuan tinggi, meletupkan cas letupan 3 gram dan menembusi jauh ke dalam tengkorak, membunuh mangsa serta-merta.
Itu hanyalah satu eksperimen dengan AI pada tahap paling mudah. Jika AI digunakan untuk membangunkan kaedah serangan baharu yang lebih canggih, ia juga boleh meningkatkan keupayaan serangan penyerang dan membawa kepada akibat yang lebih serius daripada serangan konvensional. Apabila AI berkembang sehingga ia boleh membuat keputusan sendiri untuk menghadapi persekitaran yang berubah-ubah, atau mencari sasaran alternatif secara bebas, atau mengembangkan julat sasarannya, maka mungkin manusia tidak lagi selamat. Ramai rakan sekerja dalam bidang ini bersetuju dengan Profesor Stuart Russell dan percaya masih ada peluang untuk mencegah masa depan yang suram itu, tetapi kita tidak mempunyai banyak masa lagi.
Risikonya ialah AI akan menjadi teratur, autonomi dan mengawal sistem.
AI boleh direka bentuk secara salah atau "dilatih" secara tidak betul melalui pembelajaran mesin, yang berpotensi membawa kepada tindakan yang tidak diingini yang membahayakan manusia dan alam sekitar. Contohnya, dengan pembelajaran mesin, AI menjadi semakin pintar. Apabila kecerdasan buatan mencapai tahap kecerdasan di mana ia menyokong sistem kritikal seperti kuasa, pengangkutan, penjagaan kesihatan dan kewangan, ia boleh menguasai dan mengawal keseluruhan sistem ini, membuat keputusannya sendiri dan melaksanakannya dalam situasi kecemasan. Walau bagaimanapun, apabila AI "dilengkapi" dengan niat jahat (direka bentuk secara salah), ia boleh menyebabkan akibat yang serius, seperti mengganggu sistem lalu lintas dengan melumpuhkan lampu isyarat atau memutuskan bekalan elektrik ke sistem rel bandar, menyebabkan kemalangan berantai dan gangguan bekalan elektrik yang meluas.
Banyak filem Hollywood dan antarabangsa telah berdasarkan senario ini. Walau bagaimanapun, dengan teknologi AI semasa, ini bukan lagi prospek yang jauh tetapi sepenuhnya mungkin. Elon Musk percaya bahawa jika AI dibenarkan berkembang tanpa kawalan, sehingga ia boleh mengautomasikan keputusan tanpa campur tangan manusia, ia boleh menimbulkan ancaman kepada kelangsungan hidup manusia. Itulah sebabnya beliau, bersama beribu-ribu pakar teknologi, menandatangani surat yang menuntut penghentian dan kawalan ketat ke atas pembangunan AI secara telus. Menurut Elon Musk, sistem kecerdasan buatan adalah kompleks, sukar difahami, dan mengawalnya adalah sangat mencabar. Tanpa ketelusan, penggunaan kecerdasan buatan untuk tujuan yang tidak beretika, yang menyebabkan kemudaratan kepada manusia, tidak dapat dielakkan.
Risiko kehilangan pekerjaan, pelanggaran hak privasi.
Apabila digunakan untuk mengumpul maklumat peribadi, teknologi kecerdasan buatan boleh digunakan untuk melanggar privasi, menjalankan kempen disinformasi dan menyebarkan maklumat salah yang menjejaskan ketenteraman sosial dan kestabilan politik. Penggodaman rangkaian Pejabat Pengurusan Personel (OPM) AS merupakan satu kebimbangan yang ketara bagi mana-mana negara atau organisasi, kerana ia menjejaskan data peribadi terperinci dan sangat sensitif daripada 21.5 juta pegawai AS semasa dan yang telah bersara, termasuk maklumat tentang pasangan mereka dan data mengenai permohonan pekerjaan kerajaan seperti status kesihatan, kediaman, pekerjaan, cap jari dan maklumat kewangan. Walau bagaimanapun, fakta yang lebih membimbangkan muncul apabila CIA mendapati bahawa pelaku kecurian data OPM menggunakan kecerdasan buatan untuk memalsukan maklumat peribadi dan mencipta ejen maya untuk mencuri data. Setelah dicuri, maklumat tersebut akan dianalisis, dikategorikan dan dieksploitasi untuk tujuan tertentu menggunakan teknologi Data Besar. Kecerdasan buatan membantu pencuri maklumat memendekkan masa yang diperlukan untuk mengeksploitasi data kerana manusia tidak mampu memproses maklumat yang begitu banyak dalam masa yang singkat.
Selain bahaya yang wujud di atas, teknologi AI juga mewujudkan risiko lain seperti: terlalu bergantung padanya, yang membawa kepada kehilangan kawalan ke atas situasi dan penurunan keupayaan membuat keputusan. Kecerdasan buatan juga akan menyebabkan berjuta-juta, malah ratusan juta, orang kehilangan pekerjaan mereka, terutamanya dalam pekerjaan buruh manual semata-mata dengan kandungan pengetahuan yang rendah. Akibatnya, masalah sosial yang serius seperti pengangguran, jenayah, dan jurang antara kaya dan miskin akan menjadi lebih ketara. Tambahan pula, kebolehpercayaan juga merupakan isu penting. Kebolehpercayaan keputusan dalam bidang yang sangat khusus seperti penjagaan kesihatan dan keadilan jenayah adalah sangat penting. Apabila menggunakan AI untuk membantu dalam membuat keputusan dalam bidang ini, jika teknologi tersebut tidak cukup andal, beroperasi berdasarkan data yang cenderung memihak kepada satu atau sekumpulan orang, atau sengaja diputarbelitkan, keputusan tersebut berpotensi menyebabkan akibat yang serius.
Bagaimanakah kita boleh mencegah perkara ini?
Risiko-risiko yang dinyatakan di atas adalah sebab mengapa Elon Musk dan pakar teknologi bimbang tentang perkembangan AI yang tidak terkawal dan telah menulis surat kepada Pertubuhan Bangsa-Bangsa Bersatu dan organisasi antarabangsa untuk mengawal, memastikan keselamatan dan etika dalam pembangunan AI dengan ketat; dan memperkukuh kerjasama antarabangsa bagi memastikan teknologi AI digunakan secara bermanfaat untuk manusia dan masyarakat. Beberapa langkah khusus yang boleh disebut termasuk:
- Kawalan kebolehpercayaan sistem: AI perlu direka bentuk dan dibangunkan untuk memastikan keselamatan dan kebolehpercayaan melalui kaedah kawalan kualiti, pemantauan dan penyeliaan yang ketat, kerap dan berterusan bagi memastikan sistem AI beroperasi seperti yang dimaksudkan oleh manusia dan mengelakkan kesan yang tidak diingini daripada ketidakbolehpercayaannya.
Teknologi kecerdasan buatan (AI) perlu diprogramkan untuk beroperasi mengikut nilai etika dan norma sosial. Peraturan dan piawaian ini mesti diwujudkan dan dipantau dengan jelas bagi memastikan ia tidak melakukan apa-apa yang berbahaya atau memudaratkan manusia atau organisasi. Proses menganalisis, menilai impak dan memantau prestasi sistem AI juga mesti dijalankan secara berkala bagi memastikan ia beroperasi secara beretika, tidak melanggar atau menghakis nilai-nilai umum masyarakat, tidak menyebabkan impak negatif dan memastikan penyampaian pengetahuan dan nilai yang tepat.
    |
| Kewartawanan merupakan salah satu industri yang paling terjejas oleh kecerdasan buatan. Pada masa hadapan, penyampai luar skrin tidak lagi diperlukan untuk program radio, malah penyampai maya untuk rancangan televisyen akan menjadi dominan. |
- Hentikan sementara "latihan" sistem kecerdasan buatan selama sekurang-kurangnya enam bulan untuk menilai semula keseluruhan isu. Jeda ini mesti didedahkan kepada umum, dikawal, dan semua pihak berkepentingan utama yang terlibat dalam latihan mesti mematuhinya. Jika perlu, kerajaan harus mengeluarkan larangan sementara. Ini tidak bermakna penghentian sepenuhnya pembangunan AI, tetapi hanya jeda sementara dalam perlumbaan berbahaya untuk beralih kepada model pembangunan lain yang menjadikan sistem AI lebih tepat, selamat, mudah difahami, telus, relevan, boleh dipercayai dan setia. Ini adalah penyelesaian komprehensif yang disokong oleh Elon Musk dan rakan-rakannya dalam surat terbuka mereka, tetapi kebolehlaksanaannya adalah rendah. Amat sukar bagi semua makmal bebas untuk mematuhi rayuan transnasional dan tidak mengikat sedemikian.
- Memperkukuhkan kerjasama dan perkongsian maklumat antara negara dan organisasi penyelidikan AI bebas adalah penting untuk memastikan AI dibangunkan dan digunakan dengan selamat pada masa hadapan. Kerjasama dan perkongsian maklumat juga membolehkan amaran dan pencegahan yang tepat pada masanya terhadap sebarang risiko yang muncul.
Secara amnya, AI sudah wujud di mana-mana di sekeliling kita, dan cerita seperti kecerdasan buatan yang menulis puisi, muzik dan artikel telah menjadi realiti, bukan lagi fiksyen sains. Penulis artikel ini telah menggunakan teknologi AI pada komputer dan telefon untuk membantu dalam penulisan, menjadikan prosesnya lebih lancar dan pantas. Secara khususnya, perenggan pengenalan (chapeau) dan beberapa idea telah dicadangkan oleh AI, dan lebih luar biasa lagi, semua imej yang digunakan dalam artikel ini telah dicipta oleh AI. Teknologi kecerdasan buatan sangat berguna dalam meningkatkan kualiti kerja dan kehidupan manusia, tetapi ia perlu dikawal ketat untuk mengelakkannya daripada menjadi tidak terkawal dan menjadi pengganti yang berpotensi untuk manusia pada masa hadapan, seperti yang diramalkan oleh ahli fizik teori Stephen Hawking.
Teks dan foto: HUU DUONG[iklan_2]
Sumber
Komen (0)