AI sedang membentuk masa depan - Bahagian 2: Cabaran yang datang bersamanya

Potensi datang dengan risiko

Tidak dapat dinafikan bahawa kecerdasan buatan (AI) semakin terbukti sebagai alat yang berkuasa untuk menyokong pekerja dan memudahkan kehidupan manusia. Namun, produk teknologi ini umpama “pedang bermata dua” apabila ia dieksploitasi oleh orang jahat untuk melakukan penipuan dan serangan di alam maya.

Dalam buletin amaran daripada Jabatan Keselamatan Maklumat ( Kementerian Penerangan dan Komunikasi ) atau Persatuan Keselamatan Siber, banyak kes penipuan yang direkodkan menggunakan teknologi AI telah dipetik. Sebagai contoh, Cik Nguyen Thanh T - seorang pekerja pejabat di Hanoi, semasa berbual dengan rakan melalui Facebook Messenger, rakan tersebut mengucapkan selamat tinggal dan menamatkan perbualan tetapi tiba-tiba kembali menghantar mesej teks, meminta untuk meminjam wang dan meminta untuk memindahkan wang ke akaun bank. Walaupun nama akaun itu sepadan dengan nama rakannya, Cik T berasa curiga jadi dia meminta panggilan video untuk mengesahkan. Rakan itu segera bersetuju tetapi panggilan itu hanya bertahan beberapa saat kerana "intermittent network".

Melihat wajah rakannya dalam panggilan video , dan suara itu juga betul, Cik T memindahkan wang itu. Bagaimanapun, hanya selepas pemindahan itu berjaya, dia menyedari bahawa dia telah jatuh ke dalam perangkap penggodam.

Bukan sahaja Cik T, ramai lagi mangsa, kawan dan saudara mara, turut ditipu dengan cara yang sama. Jumlah wang yang ditipu oleh orang jahat daripada menyamar dengan alat dan suara palsu Deep telah mencecah puluhan juta dong.

Satu lagi contoh biasa menggunakan AI untuk aset yang sesuai ialah kes Encik NTH, apabila menggunakan telefon Android, penipu menyediakan perangkap dengan arahan untuk memasang pautan perisian hasad. Dari situ, mereka mengawal telefon dan akaun bank untuk memindahkan wang kepada pihak ketiga. Di samping itu, perisian hasad juga secara automatik menghubungi maklumat hubungan yang tersedia dan menghantar mesej automatik meminta pemindahan wang.

Encik NTH berkata bahawa penyamar mendakwa sebagai "pegawai polis ", menghubungi nombor telefonnya, dan meminta untuk mengesahkan maklumat pengenalan peribadinya. Kerana dia sudah tua, tidak biasa dengan teknologi, dan mudah tertipu, mangsa menyerahkan telefonnya kepada orang ketiga untuk memintanya mengikut arahan penipu, dengan itu memuat turun dan memasang aplikasi berniat jahat "DichVuCong.apk" pada telefonnya.

Encik Tran Nguyen Chung, Ketua Jabatan Keselamatan Sistem Maklumat (Jabatan Keselamatan Maklumat) berkata: Apabila teknologi AI dibangunkan, mengesan dan membezakan antara kandungan sebenar dan palsu di alam siber akan menjadi lebih sukar dan sesiapa sahaja boleh menjadi sasaran, mangsa serangan siber oleh penjenayah menggunakan teknologi AI. Walau bagaimanapun, sama ada untuk menjadi mangsa atau tidak bergantung kepada kelengkapan setiap orang dengan pengetahuan dan maklumat yang diperlukan.

Situasi penipuan teknologi AI ini bukan sahaja muncul di Vietnam tetapi juga di banyak negara di seluruh dunia. Pada masa ini, agensi, organisasi dan syarikat teknologi besar sedang bekerjasama untuk mencari langkah dan penyelesaian teknikal untuk mengesan dan menghalangnya daripada akar umbi.

Dalam tempoh semasa, langkah penting adalah untuk mempromosikan propaganda, meningkatkan kesedaran orang ramai tentang kaedah, helah dan cara untuk mengenali dan menangani bentuk pemalsuan yang canggih ini untuk membantu mengurangkan dan mengehadkan kesan deepfake terhadap aktiviti di alam siber. Secara proaktif mengeluarkan amaran meluas di media massa apabila terdapat perkembangan baru dan bentuk penipuan.

"Sekiranya menerima panggilan ugut dengan imej atau video sensitif, orang ramai perlu bertenang, mengesahkan dan menyelidik dengan teliti asal usul imej dan video itu," kata Encik Tran Nguyen Trung.

Menurut laporan penyelidikan "Mengenal pasti risiko kepada ekonomi global pada 2024" oleh Universiti Ekonomi (UEB) di bawah Universiti Kebangsaan Vietnam, Hanoi, salah satu risiko yang menjejaskan ekonomi global ialah risiko dalam sektor teknologi. Laporan itu menyatakan bahawa dalam konteks peningkatan pesat AI, dasar pengurusan tidak dapat mengikuti perkembangan AI. Maklumat salah yang diberikan AI, terutamanya dalam setahun dengan banyak pilihan raya di dunia seperti tahun ini, telah menimbulkan banyak isu kepada keselamatan, politik, pertahanan dan keamanan di peringkat global.

Bercakap kepada wartawan akhbar Tin Tuc, Timbalan Menteri Sains dan Teknologi Nguyen Hoang Giang berkata: "Perdana Menteri mengeluarkan Keputusan No. 127/2021 mengenai strategi penyelidikan nasional, pembangunan dan aplikasi kecerdasan buatan sehingga 2030. Untuk melaksanakannya, Kementerian Sains dan Teknologi serta kementerian dan cawangan lain telah melaksanakan penyelidikan secara drastik dan seperti Kementerian Kehakiman secara serentak. Maklumat dan Komunikasi yang menyelidik teknologi digital Kementerian Sains dan Teknologi juga telah menyokong, menyelidik dan membangunkan industri 4.0; meneliti dan mengaplikasikan pembangunan teknologi maklumat, melayani pembangunan bandar digital dan pintar Walau bagaimanapun, dengan perkembangan pesat dan kukuh, aspek negatif dan risiko AI juga telah muncul apabila ia disalahgunakan untuk menjadi alat penjenayah siber untuk tujuan penipuan, penyamaran, dan lain-lain.

Sehingga kini, bersama dengan penyelidikan, Kementerian Sains dan Teknologi dan Kerajaan juga sedang giat membina rangka kerja perundangan, belajar daripada pengalaman negara maju lain supaya bidang AI di Vietnam akan mempromosikan potensinya, menggalakkan pembangunan serta mengawal ketat, memastikan etika dan kemanusiaan dalam bidang kecerdasan buatan.

Perkembangan pesat alat AI telah menimbulkan banyak isu mengenai hak asasi manusia, etika, privasi, keselamatan maklumat dan tanggungjawab undang-undang. Berbanding dengan dunia, Vietnam masih di peringkat awal pembangunan AI. Oleh itu, terdapat keperluan untuk peraturan dan dasar AI khusus yang sesuai untuk semua aspek kehidupan, ekonomi dan masyarakat di Vietnam.

Mengeluarkan rangka kerja undang-undang dengan segera

Menguruskan sisi gelap AI juga merupakan topik yang telah dibincangkan di beberapa negara. Parlimen Eropah telah meluluskan set peraturan asas pertama di dunia untuk mengawal selia kecerdasan buatan. Ramai pakar teknologi percaya bahawa set peraturan ini akan membantu EU mencapai kedua-dua matlamat: meminimumkan kesan negatif pembangunan teknologi ke atas pengguna serta mengejar kedudukan dominan pesaing utama dalam pasaran.

Tidak lama selepas itu, Perhimpunan Agung Pertubuhan Bangsa-Bangsa Bersatu menerima pakai resolusi mengenai kecerdasan buatan (AI), memberikan sokongan global untuk usaha antarabangsa untuk memastikan teknologi baharu ini memberi manfaat kepada semua negara, menghormati hak asasi manusia, dan "selamat, terjamin dan boleh dipercayai."

Encik Vu Ngoc Son, Pengarah Teknikal Syarikat Saham Bersama Teknologi Keselamatan Siber Nasional, berkata: "AI ialah teknologi yang memenuhi kepentingan manusia, menyokong automasi pelbagai peringkat operasi. Ini adalah alat yang berkuasa, digunakan untuk pelbagai tujuan yang berbeza seperti menyediakan perkhidmatan Soal Jawab, pengeluaran perisian, dll. Walau bagaimanapun, AI juga mempunyai sisi negatif apabila ia jatuh ke tangan pelakon jahat dan pengguna yang berniat jahat. Oleh itu, AI bukanlah alat khusus untuk mencipta produk atau jenayah, tetapi isu penting ialah "cara menggunakan" AI.

"Saya berpendapat bahawa sekatan dan koridor undang-undang belum benar-benar memenuhi kelajuan pembangunan AI. Kami akan memerlukan masa untuk membina dan memperkenalkan dasar untuk mengehadkan risiko AI apabila digunakan untuk tujuan yang tidak baik, menjejaskan hak asasi manusia serta keselamatan, ketenteraman dan keselamatan sosial," kata Encik Vu Ngoc Son.

Dr. Dang Minh Tuan, Pengarah CMC ATI Institute, berkata: "Dalam satu pihak, kami masih perlu terus menyelidik dan membangunkan teknologi baharu, mengemas kini dan mengkaji kaedah penggunaan AI untuk tujuan yang tidak baik. Sebaliknya, kami juga perlu mempromosikan kejujuran dalam sains dan dalam kerja. Sehubungan itu, mesti ada pelarasan dan pelaburan dalam kandungan dan dasar khusus untuk alat ini yang boleh kami gunakan di Vietnam. Khususnya, AI adalah alat yang berniat jahat dan kod. "pedang bermata dua", mencipta proses impak yang berterusan dan berterusan, terus bertambah baik dengan matlamat utama untuk melayani kepentingan manusia".

Pakar mengatakan bahawa keperluan adalah untuk mengawal pembangunan produk berteknologi tinggi secara bertanggungjawab, kerana ketidakupayaan untuk mengawal selia dan menguasai teknologi akan membawa kepada akibat yang tidak dapat diramalkan, menyebabkan kerugian kepada ekonomi dan menjejaskan setiap individu serta seluruh masyarakat.

Mengeluarkan peraturan khusus dan telus bukan sahaja akan membantu mencegah dan meminimumkan risiko yang mungkin disebabkan oleh AI, tetapi juga membantu Vietnam menarik perhatian dan pelaburan daripada perusahaan teknologi terkemuka dunia, mempromosikan pembangunan teknologi maklumat domestik dan industri AI.

Artikel akhir: Pembangunan selari dan kawalan AI

Sumber: https://doanhnghiepvn.vn/cong-nghe/ai-dang-dinh-hinh-tuong-lai-bai-2-nhung-thach-thuc-di-kem/20240614100957238