Polis Bandaraya Ho Chi Minh: Berhati-hati dengan 'sisi gelap' teknologi penciptaan video AI Veo 3

Walaupun tiada kes penipuan yang direkodkan oleh teknologi penciptaan video Veo 3 AI, Polis Bandaraya Ho Chi Minh mengesyorkan agar orang ramai berwaspada kerana teknologi ini boleh dieksploitasi oleh orang jahat untuk melakukan perbuatan yang menyalahi undang-undang.

Teknologi AI penjanaan video baharu menawarkan banyak peluang kepada pengguna, tetapi juga menimbulkan risiko.

Pada 9 Julai, Polis Bandaraya Ho Chi Minh berkata bahawa melalui kerja menerima laporan dan mengecam jenayah, tiada kes penipuan direkodkan oleh teknologi penciptaan video AI ​​Veo 3. Namun, orang ramai juga perlu lebih berwaspada kerana selain aspek positif, teknologi ini boleh dieksploitasi oleh orang jahat untuk melakukan perbuatan yang menyalahi undang-undang.

Menurut Jabatan Keselamatan Siber dan Pencegahan Jenayah Berteknologi Tinggi (PA05) Polis Bandaraya Ho Chi Minh, aplikasi AI generatif - juga dikenali sebagai AI buatan (seperti Swapface, SoraAI, ChatGPT, Deepseek...) yang membolehkan pengguna mencipta video, imej, strim langsung dengan perubahan suara dan perubahan wajah telah menjadi semakin popular.

Pada penghujung Mei 2025, Google mengeluarkan alat Google Veo 3, teknologi penciptaan video AI baharu, yang menyebabkan demam pada platform rangkaian sosial popular seperti Facebook, X... dengan keupayaan untuk mencipta imej, kandungan dan pergerakan kedua-dua watak dan latar belakang, terutamanya keupayaan untuk mencipta kesan bunyi dan alih suara secara automatik atas permintaan, menyukarkan ramai penonton AI untuk membezakan sesuatu produk atau sama ada ia adalah adegan sebenar.

Selain kesan positif (potensi besar dalam penciptaan kandungan, pendidikan , pawagam, media...), teknologi ini boleh dieksploitasi oleh subjek untuk melakukan perbuatan yang menyalahi undang-undang.

Sebagai contoh, daripada imej seseorang, orang jahat boleh memanfaatkan teknologi Veo 3 untuk "mengekstrak" secara automatik banyak maklumat penting seperti: pengecaman muka pemilik foto; lokasi geografi di mana orang dalam foto sering pergi; produk dan perkhidmatan yang sering digunakan; tabiat hidup... dengan itu mencipta semula wajah dan suara dengan hanya imej dan bunyi yang diambil dari alam siber; dari sini mencipta "salinan digital" yang realistik.

Helah biasa penipu menggunakan teknologi AI ialah selepas mencipta "salinan digital", mereka akan meminta seseorang menyamar sebagai saudara atau pihak berkuasa yang berwibawa (polis, mahkamah, pejabat pendakwa, pejabat cukai, hospital, dll.) untuk membuat panggilan video dan meminta mereka melakukan seperti yang diminta atau berpura-pura panik dan meminta bantuan kecemasan untuk mengeksploitasi kebimbangan mangsa; apabila mangsa telah memindahkan wang, penipu terus "hilang".

Selain itu, orang jahat juga boleh menggunakan alat ini untuk tujuan haram lain seperti: kandungan lucah, menyebarkan maklumat palsu... untuk memeras harta benda.

Menurut PA05, pada masa akan datang, orang jahat masih akan mengambil kesempatan daripada perkembangan sains dan teknologi untuk mengeksploitasi, mengendali dan melakukan perbuatan yang menyalahi undang-undang. Sementara itu, pengetahuan dan kesedaran rakyat tentang pengenalan, pencegahan diri dan kewaspadaan masih terhad.

Bagi meningkatkan keberkesanan usaha membanteras kegiatan penipuan pengagihan aset di alam siber pada masa akan datang, Polis Bandaraya akan terus melaporkan kepada Kementerian Keselamatan Awam untuk menasihati Parti dan Negara untuk menyempurnakan rangka kerja undang-undang, pengurusan keselamatan dan ketenteraman negeri, dan menggerakkan orang ramai untuk mengambil bahagian dalam gerakan seluruh rakyat untuk melindungi keselamatan negara di peringkat akar umbi untuk meningkatkan kesedaran dan kewaspadaan yang berkesan dalam meningkatkan kesedaran dan kewaspadaan. mengagihkan aset di alam siber.

Di samping itu, Polis Bandaraya Ho Chi Minh mengesyorkan perkara berikut kepada orang ramai:

Berwaspada terhadap mesej dan panggilan daripada nombor yang tidak diketahui tentang situasi yang tidak dijangka; semak, sahkan dan tentukan ketepatan maklumat dengan teliti; sama sekali tidak mendengar, tidak mengikut arahan, jangan pindahkan wang seperti yang diminta oleh orang jahat, jangan akses pautan yang tidak diketahui asalnya dihantar dalam mesej, e-mel, dsb.

Hadkan penyiaran kandungan yang berkaitan dengan maklumat peribadi pada platform rangkaian sosial awam... untuk mengelakkan orang jahat mencuri maklumat seperti imej, video, suara; pada masa yang sama, tetapkan akaun rangkaian sosial peribadi kepada mod peribadi untuk melindungi maklumat; hanya memasang aplikasi dalam talian daripada sumber rasmi sistem pengendalian telefon (CH Play, AppStore).

Sekiranya mendapati anda telah ditipu atau mengesyaki bahawa anda telah ditipu dengan kaedah di atas, anda harus segera melaporkan kepada balai polis terdekat untuk mendapatkan sokongan dan penyelesaian tepat pada masanya.

DAN THUAN - CHAU TUAN

Sumber: https://tuoitre.vn/cong-an-tp-hcm-can-trong-voi-mat-trai-cua-cong-nghe-tao-video-ai-veo-3-20250709172731831.htm