Polisi Kota Ho Chi Minh: Hati-hati dengan 'sisi gelap' teknologi pembuatan video AI Veo 3

Công an TP.HCM: Cẩn trọng với ‘mặt trái’ của công nghệ tạo video AI Veo 3 - Ảnh 1. — Teknologi AI penghasil video baru menawarkan banyak peluang bagi pengguna, tetapi juga menimbulkan risiko.

Pada 9 Juli, Kepolisian Kota Ho Chi Minh menyatakan bahwa melalui proses penerimaan laporan dan pelaporan kejahatan, belum ada kasus penipuan yang tercatat menggunakan teknologi pembuatan video AI Veo 3. Namun, masyarakat juga perlu lebih waspada karena selain manfaatnya, teknologi ini juga dapat dimanfaatkan oleh orang jahat untuk melakukan tindakan ilegal.

Menurut Departemen Keamanan Siber dan Pencegahan Kejahatan Teknologi Tinggi (PA05) Kepolisian Kota Ho Chi Minh, aplikasi AI generatif - juga dikenal sebagai AI buatan (seperti Swapface, SoraAI, ChatGPT, Deepseek...) yang memungkinkan pengguna membuat video, gambar, streaming langsung dengan perubahan suara, dan perubahan wajah telah menjadi semakin populer.

Pada akhir Mei 2025, Google merilis alat Google Veo 3, teknologi pembuatan video AI baru, yang sedang menjadi tren di platform jejaring sosial populer seperti Facebook, X... dengan kemampuan untuk membuat gambar, konten, dan gerakan karakter dan latar belakang, terutama kemampuan untuk secara otomatis membuat efek suara dan sulih suara sesuai permintaan, sehingga sulit bagi banyak pemirsa untuk membedakan apakah itu produk AI atau adegan nyata.

Selain dampak positifnya (potensi besar dalam pembuatan konten, pendidikan , perfilman, media...), teknologi ini dapat dimanfaatkan oleh subjek untuk melakukan tindakan ilegal.

Misalnya, dari gambar seseorang, penjahat dapat memanfaatkan teknologi Veo 3 untuk secara otomatis "mengekstrak" banyak informasi penting seperti: pengenalan wajah pemilik foto; lokasi geografis tempat orang dalam foto sering pergi; produk dan layanan yang sering digunakan; kebiasaan hidup... dengan demikian menciptakan kembali wajah dan suara hanya dengan gambar dan suara yang diambil dari dunia maya; dari sini menciptakan "salinan digital" yang realistis.

Trik yang umum dilakukan penipu dengan menggunakan teknologi AI adalah setelah membuat "salinan digital", mereka akan meminta seseorang menyamar sebagai kerabat atau otoritas yang berwenang (polisi, pengadilan, kejaksaan, kantor pajak, rumah sakit, dll.) untuk melakukan panggilan video dan meminta mereka melakukan apa yang diminta atau berpura-pura panik dan meminta bantuan darurat untuk mengeksploitasi kecemasan korban; setelah korban mentransfer uang, penipu segera "menghilang".

Selain itu, orang jahat juga dapat menggunakan alat ini untuk tujuan ilegal lainnya seperti: konten pornografi, menyebarkan informasi palsu... hingga memeras properti.

Menurut PA05, di masa mendatang, pelaku kejahatan masih akan memanfaatkan perkembangan ilmu pengetahuan dan teknologi untuk mengeksploitasi, mengoperasikan, dan melakukan tindakan ilegal. Sementara itu, pengetahuan dan kesadaran masyarakat akan identifikasi, pencegahan diri, dan kewaspadaan masih terbatas.

Demi meningkatkan efektivitas pemberantasan tindak pidana pencucian uang dan penggelapan di dunia maya pada masa mendatang, Kepolisian Resor Kota akan terus berkoordinasi dengan Kementerian Keamanan Publik untuk memberikan masukan kepada Partai dan Negara agar menyempurnakan kerangka hukum, pengelolaan keamanan dan ketertiban negara, serta menggerakkan masyarakat untuk berpartisipasi dalam gerakan seluruh rakyat untuk menjaga keamanan nasional di tingkat akar rumput, meningkatkan kewaspadaan dan kewaspadaan, serta meningkatkan efektivitas pencegahan dan penanggulangan tindak pidana pencucian uang dan penggelapan di dunia maya.

Selain itu, Kepolisian Kota Ho Chi Minh menyarankan hal-hal berikut kepada masyarakat:

Waspadalah terhadap pesan dan panggilan dari nomor tak dikenal mengenai situasi yang tidak terduga; periksa, verifikasi, dan tentukan keakuratan informasi dengan cermat; jangan sekali-kali mendengarkan, jangan mengikuti instruksi, jangan mentransfer uang seperti yang diminta oleh orang jahat, jangan mengakses tautan yang tidak diketahui asalnya yang dikirim melalui pesan, email, dll.

Batasi pengeposan konten yang terkait dengan informasi pribadi di platform jejaring sosial publik... untuk menghindari orang jahat mencuri informasi seperti gambar, video, suara; pada saat yang sama, atur akun jejaring sosial pribadi ke mode privat untuk melindungi informasi; hanya instal aplikasi daring dari sumber resmi sistem operasi ponsel (CH Play, AppStore).

Jika Anda mengetahui atau mencurigai adanya penipuan dengan metode di atas, segera laporkan ke kantor polisi terdekat agar segera mendapatkan bantuan dan penyelesaian.

Komentar (0)