AI membentuk masa depan - Bagian 2: Tantangan yang menyertainya

Potensi datang dengan risiko

Tak dapat dipungkiri bahwa kecerdasan buatan (AI) semakin terbukti menjadi alat yang ampuh untuk mendukung pekerja dan memudahkan kehidupan manusia. Namun, produk-produk teknologi ini bagaikan "pedang bermata dua" ketika dimanfaatkan oleh orang jahat untuk melakukan penipuan dan serangan di dunia maya.

Dalam buletin peringatan dari Departemen Keamanan Informasi ( Kementerian Informasi dan Komunikasi ) atau Asosiasi Keamanan Siber, banyak kasus penipuan yang tercatat menggunakan teknologi AI. Misalnya, Ibu Nguyen Thanh T, seorang pekerja kantoran di Hanoi, saat mengobrol dengan seorang teman melalui Facebook Messenger, temannya mengucapkan selamat tinggal dan mengakhiri percakapan, tetapi tiba-tiba kembali mengirim pesan teks, meminta pinjaman uang dan menyarankan untuk mentransfer uang ke rekening bank. Meskipun nama rekeningnya cocok dengan nama temannya, Ibu T curiga sehingga ia meminta panggilan video untuk verifikasi. Temannya langsung setuju, tetapi panggilan tersebut hanya berlangsung beberapa detik karena "jaringan terputus-putus".

Melihat wajah temannya di panggilan video , dan suaranya juga benar, Ibu T mentransfer uang tersebut. Namun, baru setelah transfer berhasil, ia menyadari bahwa ia telah jatuh ke dalam perangkap peretas.

Tak hanya Ibu T, banyak korban lain, teman, dan kerabat, juga tertipu dengan cara serupa. Jumlah uang yang ditipu para pelaku melalui penyamaran menggunakan alat dan suara Deepfake telah mencapai puluhan juta dong.

Contoh umum lain penggunaan AI untuk mencuri aset adalah kasus Tn. NTH. Saat menggunakan ponsel Android, penipu memasang jebakan berisi instruksi untuk memasang tautan malware. Dari sana, mereka mengambil alih kendali ponsel dan rekening bank untuk mentransfer uang ke pihak ketiga. Selain itu, malware juga secara otomatis menghubungi informasi kontak yang tersedia dan mengirimkan pesan otomatis yang meminta transfer uang.

Tn. NTH mengatakan bahwa penipu tersebut mengaku sebagai "petugas polisi ", menelepon nomor teleponnya, dan meminta verifikasi informasi identitas pribadinya. Karena sudah tua, kurang paham teknologi, dan mudah tertipu, korban memberikan ponselnya kepada orang ketiga untuk memintanya mengikuti instruksi penipu, sehingga mengunduh dan memasang aplikasi berbahaya "DichVuCong.apk" di ponselnya.

Bapak Tran Nguyen Chung, Kepala Departemen Keamanan Sistem Informasi (Departemen Keamanan Informasi), mengatakan: "Ketika teknologi AI berkembang, mendeteksi dan membedakan konten asli dan palsu di dunia maya akan menjadi lebih sulit, dan siapa pun dapat menjadi target, korban serangan siber oleh penjahat yang menggunakan teknologi AI. Namun, apakah menjadi korban atau tidak bergantung pada pembekalan pengetahuan dan informasi yang diperlukan setiap orang."

Penipuan teknologi AI ini tidak hanya terjadi di Vietnam, tetapi juga di banyak negara di seluruh dunia. Saat ini, berbagai lembaga, organisasi, dan perusahaan teknologi besar sedang bekerja sama untuk menemukan langkah-langkah dan solusi teknis guna mendeteksi dan mencegahnya dari akarnya.

Saat ini, langkah penting yang perlu diambil adalah menggalakkan propaganda, meningkatkan kesadaran masyarakat akan metode, trik, dan cara mengenali serta menangani bentuk pemalsuan canggih ini untuk membantu mengurangi dan membatasi dampak deepfake terhadap aktivitas di dunia maya. Secara proaktif, terbitkan peringatan secara luas di media massa ketika terdapat perkembangan dan bentuk penipuan baru.

"Jika menerima panggilan pemerasan yang disertai gambar atau video sensitif, masyarakat perlu tetap tenang, melakukan verifikasi, dan meneliti dengan saksama asal gambar dan video tersebut," ujar Bapak Tran Nguyen Trung.

Menurut laporan penelitian "Mengidentifikasi Risiko terhadap Ekonomi Global pada Tahun 2024" oleh Universitas Ekonomi (UEB) di bawah naungan Universitas Nasional Vietnam, Hanoi, salah satu risiko yang memengaruhi ekonomi global adalah risiko di sektor teknologi. Laporan tersebut menyatakan bahwa dalam konteks pesatnya perkembangan AI, kebijakan manajemen belum mampu mengimbangi perkembangan tersebut. Misinformasi yang dihasilkan AI, terutama di tahun dengan banyaknya pemilihan umum di dunia seperti tahun ini, telah menimbulkan banyak masalah bagi keamanan, politik, pertahanan, dan perdamaian global.

Berbicara kepada wartawan surat kabar Tin Tuc, Wakil Menteri Sains dan Teknologi Nguyen Hoang Giang mengatakan: “Perdana Menteri mengeluarkan Keputusan No. 127/2021 tentang strategi penelitian nasional, pengembangan dan penerapan kecerdasan buatan hingga tahun 2030. Untuk melaksanakannya, Kementerian Sains dan Teknologi serta kementerian dan cabang lainnya telah menerapkan secara drastis dan sinkron, seperti Kementerian Kehakiman meneliti aspek hukum. Kementerian Informasi dan Komunikasi meneliti teknologi digital. Kementerian Sains dan Teknologi juga telah mendukung, meneliti dan mengembangkan industri 4.0; Meneliti dan menerapkan pengembangan teknologi informasi, melayani pengembangan kota digital dan pintar. Namun, dengan perkembangan yang cepat dan kuat, aspek negatif dan risiko AI juga muncul ketika disalahgunakan untuk menjadi alat bagi penjahat dunia maya untuk tujuan penipuan, peniruan identitas, ancaman, perampasan properti, dll.

Selama ini, di samping penelitian, Kementerian Sains dan Teknologi serta Pemerintah juga tengah giat membangun kerangka hukum, belajar dari pengalaman negara-negara maju lainnya agar bidang AI di Vietnam dapat meningkatkan potensinya, mendorong pembangunan sekaligus melakukan pengendalian yang ketat, menjamin etika dan kemanusiaan di bidang kecerdasan buatan.

Perkembangan pesat perangkat AI telah menimbulkan banyak isu terkait hak asasi manusia, etika, privasi, keamanan informasi, dan tanggung jawab hukum. Dibandingkan dengan dunia, Vietnam masih berada dalam tahap awal pengembangan AI. Oleh karena itu, diperlukan regulasi dan kebijakan AI yang spesifik dan sesuai untuk semua aspek kehidupan, ekonomi, dan masyarakat di Vietnam.

Segera terbitkan kerangka hukum

Mengelola sisi gelap AI juga merupakan topik yang telah dibahas di beberapa negara. Parlemen Eropa telah menyetujui seperangkat aturan dasar pertama di dunia untuk mengatur kecerdasan buatan. Banyak pakar teknologi percaya bahwa seperangkat aturan ini akan membantu Uni Eropa mencapai kedua tujuan: meminimalkan dampak negatif perkembangan teknologi terhadap pengguna sekaligus mengejar posisi dominan para pesaing utama di pasar.

Tak lama setelah itu, Majelis Umum Perserikatan Bangsa-Bangsa mengadopsi resolusi tentang kecerdasan buatan (AI), yang memberikan dukungan global bagi upaya internasional untuk memastikan teknologi baru ini bermanfaat bagi semua negara, menghormati hak asasi manusia, dan “aman, terjamin, dan dapat dipercaya.”

Bapak Vu Ngoc Son, Direktur Teknis Perusahaan Saham Gabungan Teknologi Keamanan Siber Nasional, mengatakan: “AI adalah teknologi yang melayani kepentingan manusia, mendukung otomatisasi berbagai tahapan operasi. Ini adalah alat yang ampuh, digunakan untuk berbagai tujuan seperti menyediakan layanan tanya jawab, produksi perangkat lunak, dll. Namun, AI juga memiliki sisi negatif ketika jatuh ke tangan pelaku kejahatan dengan tujuan menciptakan konten palsu dan kode berbahaya untuk menyerang pengguna. Oleh karena itu, AI bukanlah alat khusus untuk pembuatan produk atau kejahatan, tetapi isu pentingnya adalah "bagaimana menggunakan" AI.

"Saya rasa sanksi dan koridor hukum belum sepenuhnya mengimbangi kecepatan perkembangan AI. Kita membutuhkan waktu untuk membangun dan menerapkan kebijakan guna membatasi risiko AI ketika digunakan untuk tujuan negatif, yang berdampak pada hak asasi manusia serta masalah keamanan, ketertiban, dan keselamatan sosial," ujar Bapak Vu Ngoc Son.

Dr. Dang Minh Tuan, Direktur CMC ATI Institute, mengatakan: “Di satu sisi, kita masih harus terus meneliti dan mengembangkan teknologi baru, memperbarui dan mempelajari metode penggunaan AI untuk tujuan negatif. Di sisi lain, kita juga harus mempromosikan kejujuran dalam sains dan pekerjaan. Oleh karena itu, perlu ada penyesuaian dan investasi dalam konten dan kebijakan khusus untuk perangkat ini di Vietnam. Khususnya, kita juga dapat menggunakan perangkat AI untuk mendeteksi konten dan kode berbahaya. AI bagaikan "pedang bermata dua", menciptakan proses dampak yang berkelanjutan, terus berkembang dengan tujuan akhir melayani kepentingan manusia.”

Para ahli mengatakan bahwa persyaratannya adalah mengendalikan pengembangan produk teknologi tinggi secara bertanggung jawab, karena ketidakmampuan untuk mengatur dan menguasai teknologi akan menimbulkan konsekuensi yang tidak dapat diprediksi, yang menyebabkan kerugian bagi perekonomian dan memengaruhi setiap individu serta seluruh masyarakat.

Menerbitkan regulasi yang spesifik dan transparan tidak hanya akan membantu mencegah dan meminimalkan risiko yang dapat ditimbulkan oleh AI, tetapi juga membantu Vietnam menarik perhatian dan investasi dari perusahaan teknologi terkemuka dunia, serta mendorong pengembangan industri teknologi informasi dan AI dalam negeri.

Artikel akhir: Pengembangan dan kontrol paralel AI

Sumber: https://doanhnghiepvn.vn/cong-nghe/ai-dang-dinh-hinh-tuong-lai-bai-2-nhung-thach-thuc-di-kem/20240614100957238