Konvensi Hanoi, para ahli mengusulkan 'kekebalan digital' terhadap tantangan AI

Dari menganalisis dampak AI pada kepercayaan digital, para ahli mengusulkan pendekatan "kekebalan digital" menuju masyarakat yang aman di era data.

Letnan Kolonel, PhD, kriminolog Dao Trung Hieu mengatakan bahwa perkembangan kecerdasan buatan (AI) telah mengubah cara manusia menciptakan, menerima, dan memverifikasi informasi secara mendalam. Teknologi seperti deepfake, suara sintetis, atau gambar buatan membuat batas antara yang nyata dan yang palsu menjadi semakin kabur.

Letnan Kolonel, PhD, pakar kriminologi Dao Trung Hieu. Foto: NVCC.

Menurut statistik Europol (2024), sekitar 90% konten daring saat ini memiliki intervensi AI di berbagai tingkat, yang 15% di antaranya menunjukkan tanda-tanda pemalsuan yang disengaja.

Di Vietnam, Kementerian Keamanan Publik telah mencatat serangkaian kasus kriminal penggunaan AI untuk menyamar sebagai kerabat, pejabat bank, atau lembaga negara untuk mengambil alih properti, dengan beberapa kasus menyebabkan kerugian hingga puluhan miliar dong.

Yang mengkhawatirkan bukan hanya kerugian materiil, tetapi juga terkikisnya kepercayaan sosial, fondasi semua hubungan manusia. Ketika kebenaran dapat direkonstruksi, kepercayaan, yang merupakan fondasi semua hubungan sosial, justru menjadi sasaran serangan pertama.

“Fenomena di atas bukan sekadar transformasi alat-alat kriminal, melainkan perombakan ruang perilaku kriminal, dengan karakteristik yang benar-benar baru: tak berwujud, lintas batas, anonim, dan belajar mandiri,” ujar Kolonel Senior Dao Trung Hieu.

Transformasi struktur perilaku kriminal di era AI

Letnan Kolonel Dao Trung Hieu mengatakan bahwa kejahatan di era AI tidak lagi dibatasi oleh ruang fisik. Tindakan kriminal dilakukan melalui model data, algoritma, dan sistem pembangkitan otomatis, yang memungkinkan individu atau organisasi memalsukan keaslian semua jenis informasi.

Jika dalam kejahatan tradisional, jejak fisik (barang bukti, tempat kejadian perkara, saksi) menjadi basis utama, maka dalam kejahatan berteknologi tinggi, jejak digital menjadi kuncinya. AI membantu penjahat mencapai dua kemampuan berbahaya: realitas sintetis, yang membuat penerima percaya pada sesuatu yang tidak ada, dan erosi atribusi, yang menyulitkan untuk menemukan asal mula perilaku tersebut.

Dari sudut pandang kriminologi, kita dapat melihat adanya perubahan struktur dari keempat unsur kejahatan:

Pertama, Subjek bukan lagi seorang individu tunggal, tetapi dapat berupa sistem otomatis, atau sekelompok orang yang mengendalikannya dari jarak jauh;

Kedua, objek yang dilanggar bukan hanya harta benda, kehormatan atau data, tetapi juga kepercayaan sosial - suatu nilai yang tidak berwujud tetapi memiliki makna yang mendasar;

Ketiga, sarana melakukan kejahatan diprogram, belajar sendiri, sulit dikendalikan dan dapat direplikasi tanpa batas;

Keempat, konsekuensi sosial tidak berhenti pada kerusakan ekonomi , tetapi menyebar ke psikologi, moralitas, dan keamanan nasional.

“Dengan demikian, kecerdasan buatan tidak hanya mendukung manusia dalam kreativitas dan produksi, tetapi juga merestrukturisasi perilaku menyimpang, menjadikan konsep “kriminologi digital” sebagai arah penelitian baru dalam ilmu kriminal modern,” kata Bapak Hieu.

Beralih dari investigasi tradisional ke investigasi di ruang data

Bapak Hieu mengatakan bahwa munculnya kejahatan berbasis AI memaksa lembaga investigasi untuk berinovasi dalam model kerja mereka. Alih-alih menyelidiki setelah kejadian, perlu untuk menyelidiki data secara paralel, mengumpulkan dan menganalisis aliran informasi seiring terjadinya perilaku tersebut.

Teknik seperti analisis jejak AI sedang diteliti, yang memungkinkan pengambilan fitur spesifik dari setiap model generatif yang mirip dengan "sidik jari digital" dalam forensik digital.

Di Vietnam, unit profesional Kementerian Keamanan Publik telah berkoordinasi dengan perusahaan teknologi untuk membangun basis data sampel pengenalan suara, wajah, dan video yang dibuat oleh AI.

Selain itu, infrastruktur hukum juga perlu ditingkatkan. Perlu ditambahkan pasal "penggunaan kecerdasan buatan untuk melakukan kejahatan" dalam kajian amandemen Kitab Undang-Undang Hukum Pidana, dan pada saat yang sama, perlu ada peraturan khusus tentang tanggung jawab pemilik dan operator sistem AI.

Yang lebih penting adalah beralih dari pola pikir "memburu pelaku" menjadi pola pikir "pencegahan proaktif". Di era di mana video palsu dapat menyebar lebih cepat daripada pengumuman resmi, kemampuan untuk merespons dan berkoordinasi dengan cepat di antara semua pihak, termasuk negara, pelaku bisnis, dan masyarakat, menjadi faktor kunci.

Kekebalan digital, “antibodi” di era AI

Konsep yang ditekankan oleh Letnan Kolonel Dr. Dao Trung Hieu adalah "kekebalan digital", yaitu kemampuan masyarakat untuk mengidentifikasi diri dan bereaksi terhadap informasi palsu. Untuk membangun kekebalan digital, menurutnya, diperlukan konvergensi tiga kelompok solusi.

Upacara penandatanganan Konvensi Perserikatan Bangsa-Bangsa Melawan Kejahatan Dunia Maya berlangsung di Hanoi pada tanggal 25 Oktober. Foto: Pemerintah.

Pertama, bangun koridor hukum yang fleksibel dan evolusioner, yang menjamin keseimbangan antara kendali dan inovasi. Hukum tidak seharusnya "membingkai" AI, tetapi harus fleksibel untuk beradaptasi dengan perubahan teknologi yang cepat, sekaligus memastikan prinsip tanggung jawab ganda - individu atau organisasi yang menggunakan AI harus bertanggung jawab atas produk yang mereka ciptakan.

Kedua, bangun mekanisme identifikasi nasional untuk konten yang dihasilkan AI, melalui standar autentikasi asal digital (tanda air AI, kode sumber). Platform digital harus diwajibkan untuk memberi label atau memverifikasi konten yang dihasilkan AI, membantu pengguna membedakan antara konten asli dan palsu sejak tahap penerimaan.

Ketiga, pendidikan dan media sosial merupakan garis pertahanan jangka panjang. Hukum dapat mengatur perilaku, tetapi hanya pendidikan yang dapat mengatur kesadaran. Mengintegrasikan pengetahuan tentang keamanan data, keterampilan mengenali berita palsu, dan etika teknologi ke dalam kurikulum pendidikan umum dan universitas akan menciptakan generasi warga negara dengan "antibodi digital", sebuah fondasi berkelanjutan bagi masyarakat yang aman.

Menurut Bapak Hieu, kecerdasan buatan bukan hanya kemajuan teknologi, tetapi juga ujian moral dan hukum bagi umat manusia. Ketika mesin dapat menciptakan kembali kebenaran, manusia dipaksa untuk belajar melindungi satu-satunya keyakinan yang tidak dapat diprogram.

Vietnam perlu secara proaktif mengambil kepemimpinan dengan membangun kerangka hukum yang fleksibel, meningkatkan kerja sama publik-swasta dalam pencegahan kejahatan AI, dan mempromosikan pendidikan kekebalan digital bagi masyarakat.

Masyarakat yang aman di era kecerdasan buatan bukanlah masyarakat dengan tembok pembatas terkuat, melainkan masyarakat dengan warga yang paling waspada. Jika data adalah bahan bakar era digital, maka kepercayaan adalah mesinnya. Tanpa kepercayaan, sistem apa pun akan runtuh, secanggih apa pun teknologinya,” tegas sang kriminolog.

Pada tanggal 25 Oktober, upacara penandatanganan Konvensi Perserikatan Bangsa-Bangsa Melawan Kejahatan Siber dengan tema "Memerangi Kejahatan Siber - Berbagi Tanggung Jawab - Menatap Masa Depan" berlangsung di Hanoi. Konvensi Hanoi dianggap sebagai langkah penting dalam membangun kerangka hukum global pertama untuk mengoordinasikan upaya bersama dalam menanggapi kejahatan siber. Ini merupakan tonggak bersejarah, tidak hanya bagi komunitas internasional, tetapi juga menegaskan peran dan posisi Vietnam di kancah internasional.

Source: https://khoahocdoisong.vn/cong-uoc-ha-noi-chuyen-gia-de-xuat-mien-dich-so-truoc-thach-thuc-ai-post2149063689.html