Dualitas AI

Saatnya setiap pengguna menjadi "perisai digital", waspada, siaga, dan bertanggung jawab atas setiap klik dan berbagi.

Manfaat dan Batasan Halus dari AI

Kecerdasan buatan belum pernah sedekat ini dengan kehidupan nyata. Hanya dengan beberapa klik, perintah singkat dapat menciptakan suara, gambar, bahkan video dengan realisme yang memukau. AI membantu menghemat waktu, mengurangi biaya produksi konten, dan membuka era media digital yang fleksibel.

Namun, kemampuan untuk "mensimulasikan secara realistis" telah menjadi pedang bermata dua. Baru-baru ini, media sosial terus-menerus menayangkan video-video yang dibuat menggunakan teknologi deepfake, di mana wajah para pemimpin polisi, gambar pasukan fungsional dalam kasus-kasus sensitif... dipotong dan ditempel, dialihbahasakan dengan suara yang terdistorsi untuk menimbulkan kesalahpahaman dan memecah belah masyarakat.

Gambar-gambar yang dibuat-buat seperti ini makin banyak muncul di media sosial.

Dalam sebuah klip yang beredar di TikTok, gambar seorang polisi lalu lintas yang sedang bertugas dipadukan dengan dialog yang menyinggung, disertai tagar "fine for the sake of it" yang menyiratkan bahwa petugas ini menyalahgunakan kekuasaannya untuk keuntungan pribadi. Banyak pengguna, terutama anak muda, mudah mempercayai konten ini karena gambarnya begitu realistis, suaranya begitu mirip dengan bentuk mulut sehingga sangat sulit membedakan antara yang asli dan yang palsu.

Hanya karena ingin "memamerkan" kemampuannya dalam menerapkan teknologi AI, seorang YouTuber muda di Dien Bien harus membayar harganya dengan didenda administratif dan dipaksa untuk meminta maaf secara terbuka. Pada sore hari tanggal 24 Januari, Kepolisian Provinsi Dien Bien mengumumkan bahwa Departemen Keamanan Siber dan Pencegahan Kejahatan Berteknologi Tinggi telah mengeluarkan keputusan untuk mendenda Tong Van T. (lahir tahun 2001, tinggal di distrik Muong Ang) sebesar VND 7,5 juta karena menggunakan AI untuk membuat video palsu dengan konten yang terdistorsi dan menghina kepolisian lalu lintas.

Tepatnya, pada 7 Januari, T. mengunggah video berdurasi lebih dari 3 menit ke akun YouTube "Tuyền Vlog" dengan judul yang mengejutkan: "Saat nongkrong, saya dikejar polisi lalu lintas". Dalam klip tersebut, gambar dan situasi direkayasa menggunakan teknologi AI, mensimulasikan polisi lalu lintas yang mengejar orang, dipadukan dengan efek dan komentar yang menyinggung dan mencemarkan nama baik pihak berwenang.

Bekerja sama dengan polisi, T. mengakui bahwa seluruh konten klip tersebut adalah produk palsu dengan tujuan "hiburan" dan menunjukkan kemampuan menggunakan teknologi AI. Selain denda, pihak berwenang meminta T. untuk menghapus video palsu tersebut dan meminta maaf secara terbuka kepada polisi lalu lintas melalui kanal YouTube pribadinya.

Di era ledakan teknologi digital , terutama perkembangan pesat kecerdasan buatan, kekuatan-kekuatan yang bermusuhan dan reaksioner tak segan-segan memanfaatkan alat ini untuk menciptakan citra dan cerita palsu dengan tujuan mendistorsi dan mencemarkan nama baik Pasukan Keamanan Publik Rakyat Vietnam. Foto yang beredar di media sosial baru-baru ini, yang memperlihatkan seorang perempuan hamil berseragam polisi diancam oleh dua pria bertampang "gangster", merupakan contoh nyata dari tipu daya ini.

Foto hasil rekayasa AI tersebut menjadi viral di media sosial baru-baru ini.

Sekilas, penonton bisa dengan mudah mengira ini adegan nyata, disertai judul sensasional seperti: "Anak laki-laki malang menyelamatkan polwan hamil dari pemukulan gangster, tiba-tiba membuka kasus yang menggemparkan seluruh negeri...". Namun, ini sebenarnya hanyalah adegan rekayasa, mungkin dari film atau produk hiburan, atau lebih buruk lagi, gambar yang diciptakan oleh AI untuk mengelabui emosi pembaca, membuat mereka merasa kasihan dan meragukan keaslian kegiatan penegakan hukum.

Yang lebih mengkhawatirkan, penyebaran konten semacam itu tidak hanya merusak reputasi dan citra Pasukan Keamanan Publik Rakyat, yang siang dan malam menjaga keamanan dan ketertiban masyarakat, tetapi juga merupakan bentuk perang psikologis yang canggih. Ketika kepercayaan masyarakat terhadap pihak berwenang terkikis oleh citra palsu, tujuan mendalam kekuatan musuh untuk memecah belah blok persatuan nasional yang besar akan perlahan terwujud.

Oleh karena itu, setiap warga negara perlu meningkatkan kewaspadaan, memiliki daya pikir kritis dan keterampilan mengenali informasi palsu, serta tegas mengecam dan membantah konten palsu, sehingga turut menjaga landasan ideologis dan menjaga stabilitas sosial terhadap derasnya arus informasi beracun di dunia maya.

Di Kota Ho Chi Minh, sebuah video berdurasi hampir 1 menit tiba-tiba menjadi viral di media sosial, merekam adegan seorang pria berseragam polisi "memeras pengakuan" dari seorang pelanggar di sebuah kantor. Dalam video tersebut, pria yang diyakini sebagai petugas polisi tersebut bersikap kasar, terus-menerus berteriak dan memarahi, bahkan menggunakan kata-kata kasar, yang memicu kemarahan publik.

Namun, segera setelah video tersebut viral, Kepolisian Kota Ho Chi Minh segera menyelidiki dan mengonfirmasi bahwa ini adalah produk deepfake yang canggih. Kesimpulannya, wajah dalam video tersebut diambil dari rekaman konferensi internal kepolisian, kemudian digunakan oleh penjahat untuk memasukkan wajah tersebut ke dalam adegan rekayasa, sehingga penonton keliru percaya bahwa itu adalah aksi nyata.
Secara khusus, audio yang menyertainya menyertakan suara yang mengancam dan menghina yang sebenarnya bukan kata-kata sebenarnya dari pejabat mana pun, tetapi merupakan suara AI sintetis yang diprogram dan diedit untuk menipu emosi pemirsa.

Insiden ini merupakan contoh tipikal penggunaan teknologi deepfake untuk mendistorsi dan mencemarkan nama baik Pasukan Keamanan Publik Rakyat, sebuah trik yang semakin dieksploitasi oleh kekuatan reaksioner dan anti-pemerintah di dunia maya. Patut dicatat bahwa jika tidak segera diungkap, produk palsu semacam itu dapat mengakibatkan konsekuensi serius: menggoyahkan kepercayaan masyarakat terhadap aparat penegak hukum, memicu perlawanan di masyarakat, dan menciptakan kondisi yang memungkinkan penyebaran argumen palsu. Hal ini merupakan peringatan yang jelas tentang urgensi peningkatan kapasitas media dalam menyanggah, mendeteksi, dan memerangi berita palsu, sekaligus mengimbau setiap warga negara untuk waspada dan tidak terburu-buru membagikan atau mengomentari konten yang belum diverifikasi dari sumber resmi.

Dalam kasus terbaru lainnya, terkait penanganan pelanggaran di pusat inspeksi kendaraan di Korea Selatan, oknum yang tidak bertanggung jawab menyebarkan video palsu seorang pimpinan kepolisian provinsi yang membela petugas yang bersalah. Video ini disebar di Telegram dan media sosial dengan judul "didukung oleh kekuatan besar", tetapi sebenarnya merupakan produk AI, dan sama sekali tidak muncul dalam konferensi pers atau dokumen resmi mana pun.

Sebuah tren berbahaya diam-diam menyebar di dunia maya, yaitu orang jahat menggunakan teknologi AI untuk membuat klip palsu dengan tujuan penipuan dan pemerasan. Baru-baru ini, banyak orang menjadi korban ketika foto mereka, terutama foto orang-orang bergengsi seperti pengacara, dokter, dan pengusaha, diedit menjadi video iklan "mengembalikan uang hasil penipuan daring".

Dalam klip-klip ini, AI digunakan untuk memalsukan suara dan wajah pengacara, membuat penonton percaya, sehingga dengan mudah memberikan informasi pribadi atau mentransfer uang kepada penipu. Lebih berbahaya lagi, beberapa subjek juga menggunakan teknologi deepfake untuk memasukkan wajah korban ke dalam video seks, lalu mengirimkannya kepada istri, suami, atau rekan kerja mereka dengan tujuan mengancam dan memaksa mereka mentransfer uang untuk "menjaga kerahasiaan masalah".

Sebuah insiden mengejutkan terjadi pada Maret 2025, ketika seorang korban di Hanoi diminta mentransfer puluhan juta dong setelah menerima video seks palsu dengan fotonya sendiri. Sementara itu, di Kota Ho Chi Minh, seorang lainnya diperas hingga 2 miliar dong jika ia tidak ingin video sensitif tersebut tersebar. Kementerian Keamanan Publik telah turun tangan, mengidentifikasi banyak kelompok kriminal transnasional, terutama dari Tiongkok dan Asia Tenggara, di balik jaringan ini dan menggunakan kartu SIM palsu, dompet elektronik, dan platform jejaring sosial untuk menyembunyikan identitas mereka.

Ini bukan lagi penipuan skala kecil, melainkan bentuk "perang psikologis berteknologi tinggi", yang memanfaatkan rasa takut akan kehormatan dan hubungan sosial untuk menekan korban. Jika Anda tidak meningkatkan kewaspadaan, keterampilan dalam mengidentifikasi informasi, dan perilaku yang tidak lazim, siapa pun dapat menjadi "mangsa" di tangan para penjahat berteknologi tinggi. Dalam menghadapi gelombang pemalsuan yang canggih ini, setiap warga negara harus waspada, sama sekali tidak membagikan informasi pribadi secara sembarangan, dan siap bersuara untuk mengecam tindakan ilegal, yang berkontribusi dalam melindungi keselamatan diri sendiri dan masyarakat.

“Perisai digital” dari masyarakat diperlukan untuk melawan ancaman deepfake.

Menurut Departemen Radio, Televisi, dan Informasi Elektronik (Kementerian Kebudayaan, Olahraga, dan Pariwisata), pada tahun 2024, platform digital di Vietnam harus menghapus lebih dari 4.000 video yang berisi informasi palsu dan terdistorsi, yang sebagian besar merupakan produk yang dibuat dari teknologi AI seperti deepfake, klon suara... TikTok sendiri - platform yang populer di kalangan anak muda - diminta untuk menghapus lebih dari 1.300 klip deepfake, yang sebagian besar terkait dengan kepolisian, pemerintahan, dan kebijakan sosial.

Di era ledakan teknologi, kecerdasan buatan membuka potensi terobosan, tetapi juga membawa bahaya yang belum pernah terjadi sebelumnya, terutama produk deepfake dengan konten terdistorsi, yang menyerang reputasi lembaga publik. Sebuah survei oleh MICRI Media Research Institute menunjukkan bahwa 62% pengguna media sosial di Vietnam tidak dapat membedakan antara yang asli dan yang palsu tanpa peringatan dari media arus utama atau otoritas. Ini adalah "kesenjangan kognitif" yang dimanfaatkan secara luas oleh kekuatan jahat untuk menyebarkan informasi palsu, yang menyebabkan gangguan psikologis sosial.

Tong Van T. di kantor polisi.

Menurut Mayor Jenderal, Lektor Kepala, Dr. Do Canh Thin, seorang pakar kriminologi, penggunaan AI untuk membuat video palsu para pemimpin, menyunting pernyataan palsu, atau mendistorsi tindakan profesional kepolisian merupakan trik baru yang sangat berbahaya. "Deepfake bukan sekadar produk hiburan, melainkan bentuk perang informasi modern yang mampu menghancurkan kepercayaan, menyebabkan ketidakstabilan sosial, dan sangat sulit dikendalikan," komentar Mayor Jenderal Do Canh Thin.

Faktanya, klip-klip yang dimanipulasi AI bukannya tidak berbahaya, tetapi seringkali menyentuh topik-topik sensitif seperti penanganan pelanggaran, investigasi kejahatan, pemberantasan korupsi, dll., yang menyebabkan masyarakat bingung dan curiga terhadap penegak hukum. Yang lebih mengkhawatirkan, banyak video dibagikan di platform-platform besar seperti YouTube dan TikTok dengan ratusan ribu tayangan sebelum dihapus, sehingga menimbulkan dampak viral yang negatif.

Pakar media digital Hoang Minh memperingatkan: "Hanya dengan satu kali share atau satu kali like tanpa kehati-hatian, Anda bisa menjadi fasilitator berita palsu. Setiap pengguna internet perlu memahami bahwa perilaku di ruang digital juga memiliki konsekuensi nyata."

Dalam konteks ini, yang lebih dibutuhkan dari sebelumnya adalah membangun "perisai digital" dari komunitas itu sendiri: yaitu, kewaspadaan, kekebalan informasi, dan tanggung jawab terhadap lingkungan jaringan. Teknologi mungkin netral, tetapi bagaimana orang menggunakannya akan menentukan apakah AI menjadi kekuatan pendorong pembangunan atau kekuatan yang menghancurkan kepercayaan sosial. Mempertahankan front ideologis, melindungi citra prajurit Keamanan Publik Rakyat, berarti melindungi fondasi keamanan nasional, sebuah tugas yang tidak hanya menjadi tugas sektor fungsional, tetapi juga tugas setiap warga negara di era digital.

Komentar (0)