Polisi Kota Ho Chi Minh: Hati-hati dengan 'sisi gelap' teknologi pembuatan video AI Veo 3

Meskipun belum ada kasus penipuan yang tercatat menggunakan teknologi pembuatan video AI Veo 3, Kepolisian Kota Ho Chi Minh mengimbau masyarakat untuk tetap waspada karena teknologi ini dapat dimanfaatkan oleh orang jahat untuk melakukan tindakan ilegal.

Teknologi AI penghasil video baru menawarkan banyak peluang bagi pengguna tetapi juga menimbulkan risiko

Pada 9 Juli, Kepolisian Kota Ho Chi Minh menyatakan bahwa melalui proses penerimaan laporan dan pelaporan kejahatan, belum ada kasus penipuan yang tercatat menggunakan teknologi pembuatan video AI Veo 3. Namun, masyarakat juga perlu waspada karena selain manfaatnya, teknologi ini juga dapat dimanfaatkan oleh orang jahat untuk melakukan tindakan ilegal.

Menurut Departemen Keamanan Siber dan Pencegahan Kejahatan Teknologi Tinggi (PA05) Kepolisian Kota Ho Chi Minh, aplikasi AI generatif - juga dikenal sebagai AI buatan (seperti Swapface, SoraAI, ChatGPT, Deepseek...) yang memungkinkan pengguna membuat video, gambar, streaming langsung dengan perubahan suara, dan perubahan wajah telah menjadi semakin populer.

Pada akhir Mei 2025, Google merilis Google Veo 3, teknologi pembuatan video AI baru yang sedang menjadi perbincangan di platform jejaring sosial populer seperti Facebook, X... dengan kemampuan untuk membuat gambar, konten, dan gerakan karakter serta latar belakang, terutama kemampuan untuk secara otomatis membuat efek suara dan sulih suara sesuai permintaan, sehingga menyulitkan banyak pemirsa untuk membedakan apakah itu produk AI atau adegan nyata.

Selain dampak positifnya (potensi besar dalam pembuatan konten, pendidikan , perfilman, media...), teknologi ini dapat dimanfaatkan oleh subjek untuk melakukan tindakan ilegal.

Misalnya, dari gambar seseorang, penjahat dapat memanfaatkan teknologi Veo 3 untuk secara otomatis "mengekstrak" banyak informasi penting seperti: wajah pemilik foto; lokasi geografis yang sering dikunjungi orang dalam foto; produk dan layanan yang sering digunakan; kebiasaan hidup... sehingga menciptakan kembali wajah dan suara hanya dengan gambar dan suara yang diambil dari dunia maya; dari sini terciptalah "salinan digital" yang realistis.

Trik yang umum dilakukan penipu dengan menggunakan teknologi AI adalah setelah membuat "salinan digital", mereka akan meminta seseorang menyamar sebagai kerabat atau instansi pemerintah (polisi, pengadilan, kejaksaan, kantor pajak, rumah sakit, dll.) untuk melakukan panggilan video dan meminta mereka melakukan apa yang diminta atau berpura-pura panik dan meminta bantuan darurat untuk mengeksploitasi kecemasan korban; setelah korban mentransfer uang, penipu segera "menghilang".

Selain itu, orang jahat juga dapat menggunakan alat ini untuk tujuan ilegal lainnya seperti: konten pornografi, menyebarkan informasi palsu... hingga memeras properti.

Menurut PA05, di masa mendatang, pelaku kejahatan masih akan memanfaatkan perkembangan ilmu pengetahuan dan teknologi untuk mengeksploitasi, mengoperasikan, dan melakukan tindakan ilegal. Sementara itu, pengetahuan dan kesadaran masyarakat akan identifikasi, pencegahan diri, dan kewaspadaan masih terbatas.

Demi meningkatkan efektivitas pemberantasan tindak pidana pencucian uang dan penggelapan di dunia maya pada masa mendatang, Kepolisian Resor Kota akan terus berkoordinasi dengan Kementerian Keamanan Publik untuk memberikan masukan kepada Partai dan Negara agar melengkapi koridor hukum, melaksanakan tugas pengelolaan keamanan dan ketertiban negara, menggerakkan masyarakat untuk berpartisipasi dalam gerakan seluruh rakyat dalam menjaga keamanan nasional di tingkat akar rumput, meningkatkan kewaspadaan dan kewaspadaan, serta meningkatkan efektivitas pencegahan dan penanggulangan tindak pidana pencucian uang dan penggelapan di dunia maya.

Selain itu, Kepolisian Kota Ho Chi Minh menyarankan hal-hal berikut kepada masyarakat:

Waspadalah terhadap pesan dan panggilan dari nomor tidak dikenal yang isinya tentang situasi yang tidak terduga; periksa, verifikasi, dan tentukan keakuratan informasi dengan cermat; jangan sekali-kali mendengarkan, jangan mengikuti instruksi, jangan mentransfer uang seperti yang diminta oleh orang jahat, jangan mengakses tautan yang tidak diketahui asalnya yang dikirim melalui pesan, email, dll.

Batasi pengeposan konten yang terkait dengan informasi pribadi di platform jejaring sosial publik... untuk menghindari kasus di mana orang jahat mencuri informasi seperti gambar, video, suara; pada saat yang sama, atur akun jejaring sosial pribadi ke mode privat untuk melindungi informasi; hanya instal aplikasi daring dari sumber resmi sistem operasi ponsel (CH Play, AppStore).

Jika menemukan penipuan atau mencurigai adanya penipuan menggunakan trik di atas, Anda perlu segera melaporkannya ke kantor polisi terdekat untuk mendapatkan dukungan dan penyelesaian yang tepat waktu.

DAN THUAN - CHAU TUAN

Sumber: https://tuoitre.vn/cong-an-tp-hcm-can-trong-voi-mat-trai-cua-cong-nghe-tao-video-ai-veo-3-20250709172731831.htm