Semakin banyak imej dan video yang disunting dan ditambah oleh AI disiarkan di rangkaian sosial untuk menarik tontonan - Foto: DUC THIEN
Jika dahulu, untuk mencipta foto palsu, pengguna biasa terpaksa mengupah pakar Photoshop, dengan AI hari ini, dalam masa kurang daripada 5 minit dan dengan beberapa kemahiran asas, satu set foto palsu boleh muncul di mana-mana.
Apabila AI mencipta imej, video, lagu... sangat nyata sukar untuk dipercayai
Melayari Facebook dengan kerap setiap hari, Cik Hoan My (HCMC) - seorang kakitangan komunikasi - berkata bahawa terdapat lebih banyak kandungan dengan campur tangan alat AI yang disiarkan oleh pengguna.
"Terdapat banyak foto yang disiarkan oleh rakan atau ahli kumpulan yang sangat nyata sehingga saya tidak akan dapat mengetahui sama ada AI digunakan jika mereka tidak menyatakannya. Malah semakin banyak video, daripada animasi, imaginasi kepada filem pendek, atau video yang berkaitan dengan peristiwa yang berlaku dalam kehidupan sebenar dicipta oleh alatan AI tetapi saya tidak akan dapat mengetahuinya," kongsi Cik My.
Bukan sahaja imej dan video, malah di rangkaian sosial YouTube, terdapat banyak lagu yang dipersembahkan atau digubah oleh "penyanyi AI". Ramai pengguna teruja dengan pengalaman baharu dan bersaing untuk berkongsinya di rangkaian sosial dengan rakan mereka.
"Saya tidak dapat mengetahui sama ada ia penyanyi AI jika ia tidak diumumkan. Kandungan AI semakin meluas di ruang siber Vietnam. Pengguna biasa seperti saya mungkin tidak lama lagi akan mengetahui kandungan mana dari orang sebenar, kandungan mana dari AI atau mempunyai campur tangan AI," kata Khanh Ha (HCMC).
Baru-baru ini, banyak platform rangkaian sosial di Vietnam telah menampilkan video dan strim langsung yang menjual produk daripada orang kurang upaya, menjadikan komuniti dalam talian lebih bersimpati dan berkongsi.
Walau bagaimanapun, banyak kes kemudiannya didedahkan oleh komuniti dalam talian kerana menggunakan AI untuk menjadikan orang normal menjadi orang kurang upaya. Tujuan helah ini adalah untuk mengambil kesempatan daripada belas ihsan penonton untuk menjual barangan atau melayani perbuatan penipuan.
Ramai pakar teknologi mengatakan bahawa baru-baru ini, rangkaian sosial telah menyaksikan peningkatan jumlah akaun yang menyiarkan video jualan dengan imej orang kurang upaya, sakit atau kurang bernasib baik untuk merayu simpati. Walau bagaimanapun, realiti menunjukkan bahawa kebanyakan kandungan ini dicipta atau diedit dengan alatan AI, menjadikan orang biasa menjadi orang kurang upaya untuk tujuan keuntungan atau penipuan.
Berkongsi dengan Tuoi Tre, Encik Milko Radotic, Naib Presiden yang bertanggungjawab bagi rantau Asia - Pasifik iProov - penyedia teknologi pengesahan biometrik terkemuka di dunia, memberi amaran: "Penyelidikan kami menunjukkan bahawa 99.9% peserta tidak dapat mengenali palsu dalam. Malah alat pengesanan canggih hari ini menghadapi banyak kesukaran."
Meningkatkan rintangan untuk pengguna digital
Encik Dang Huu Son - Timbalan Pengarah Institut Penyelidikan Gunaan dan Pembangunan Sumber Manusia AIOV, Pengasas dan Ketua Pegawai Eksekutif Syarikat LovinBot AI - berkata sejak Google melancarkan teknologi AI Nano Banana, Veo 3; ByteDance melancarkan Seedream 4, dan sebelum OpenAI melancarkan GPT Image, pasaran AI sangat sibuk dan juga telah membawa banyak akibat.
"Teknologi tidak pernah boleh diakses seperti hari ini. Ini semua adalah model AI yang sangat berkuasa yang boleh "menyalin wajah" hampir 90%, malah 99% berbanding foto asal," kata Encik Son.
Jika dahulu, untuk mencipta foto palsu, pengguna biasa terpaksa mengupah pakar Photoshop untuk melakukannya, maka dengan AI hari ini, dalam masa kurang daripada 5 minit dengan beberapa kemahiran asas, satu set foto palsu, video palsu yang dipotong dan ditampal, dan telah menambah kesan seperti berita boleh merebak pada kelajuan yang memeningkan.
"Berita palsu diulang berkali-kali, dengan kepadatan tinggi dan akses mudah, jadi sebilangan besar orang yang berhubung dengannya setiap hari akan percaya ia adalah benar. Oleh itu, penyelesaian diperlukan untuk mengehadkan masalah di atas," kata Encik Son.
Menurut Encik Trinh Nguyen Thien Phuoc - Pengarah Teknologi Syarikat Gianty Vietnam, untuk dapat membezakan kandungan yang dihasilkan AI, tiga lapisan diperlukan: (1) kemahiran pengesahan pengguna (bersama dengan peraturan emas); (2) alatan teknikal seperti Bukti Kelayakan Kandungan (C2PA), tanda pengenalan penanda air (SynthID, AudioSeal) dan pengesan palsu dalam; (3) proses penyelarasan antara pihak berkaitan seperti: platform, operator rangkaian, bank...
Khususnya, peraturan emas mesti dilakukan dengan cepat dalam masa 30 - 60 saat, termasuk: jangan klik pada pautan pelik, dan pergi ke apl/tapak web rasmi untuk mengesahkan; berhenti serta-merta apabila menemui kata kunci yang memaksa tindakan (OTP/pindahan wang/urgent).
Pada masa yang sama, pengguna harus mengesahkan dengan dua sumber bebas sebelum mempercayai; semak tarikh, masa dan konteks (berita lama menyamar sebagai baharu); hubungi semula nombor rasmi yang anda temui sendiri, jangan gunakan nombor yang diberikan oleh orang lain; dengan imej dan video, pengguna boleh mencari kembali hasil yang berkaitan...
Ramai pakar percaya bahawa penyelesaian paling asas untuk menangani gelombang kandungan palsu yang dicipta oleh AI adalah untuk meningkatkan kesedaran orang ramai. Daripada menumpukan hanya pada langkah teknikal, adalah perlu untuk membina program latihan, pertandingan atau mensimulasikan situasi kehidupan sebenar untuk membantu orang ramai mengubah tabiat pengambilan maklumat mereka.
Bagi golongan muda, terutamanya pelajar, menggabungkan peraduan dalam talian, kempen media dengan selebriti atau KOL boleh mencipta tarikan semula jadi, membantu mereka belajar dan mengalami sambil masih menguasai kemahiran mengenal pasti berita palsu dan video palsu. Sementara itu, warga emas, terutamanya di luar bandar, memerlukan bentuk yang lebih biasa dan intuitif seperti risalah bergambar, video pengajaran atau tayangan di rumah kebudayaan dan aktiviti kemasyarakatan.
"Pendekatan yang sesuai untuk setiap kumpulan orang akan membantu mewujudkan asas kesedaran jangka panjang yang kukuh, bukannya hanya berhenti pada aktiviti jangka pendek. Sebagai contoh, beberapa unit telah membangunkan sambungan yang boleh dipasang pada penyemak imbas Chrome untuk menyokong pengguna dalam mengesahkan berita semasa melayari web atau rangkaian sosial...", kongsi Encik Dang Huu Son.
Menggunakan AI untuk mengesan AI palsu
Baru-baru ini, syarikat telefon Honor telah menyepadukan ciri Pengesanan Deepfake AI dalam talian telefonnya yang baru dilancarkan. Ciri ini boleh menganalisis imej dan suara dalam masa 3 saat untuk memberi amaran tentang pemalsuan terus pada aplikasi seperti Messenger, Zalo, Viber atau Google Meet, menjadi "perisai digital" untuk melindungi pengguna daripada penipuan berteknologi tinggi.
Sebelum ini, pada September 2025, MoMo mengumumkan kerjasamanya dengan iProov untuk menggunakan teknologi Dynamic Liveness untuk membantu mengesahkan bahawa pengguna adalah sebenar, mempunyai identiti yang betul dan hadir pada masa transaksi, mencegah penipuan menggunakan video atau imej palsu, palsu.
Dalam sektor berisiko tinggi seperti kewangan, tahap keselamatan ini adalah penting untuk mencegah penipuan, menghalang akses tanpa kebenaran dan mengekalkan kepercayaan pengguna terhadap platform.
Sumber: https://tuoitre.vn/tu-hinh-anh-video-den-ca-khuc-ai-can-trong-con-loc-noi-dung-ai-tren-mang-xa-hoi-20251109232702736.htm
![Peralihan OCOP Dong Nai: [Perkara 3] Menghubungkan pelancongan dengan penggunaan produk OCOP](https://vphoto.vietnam.vn/thumb/402x226/vietnam/resource/IMAGE/2025/11/10/1762739199309_1324-2740-7_n-162543_981.jpeg)
Komen (0)