Kebutuhan mendesak untuk mengontrol konten AI.

Kriteria harus ditetapkan untuk membatasi konten yang boleh dibuat pengguna menggunakan AI, dan pelabelan yang jelas harus diwajibkan.

Dalam beberapa tahun terakhir, kecerdasan buatan (AI) telah berkembang dan terus meningkat dengan kecepatan yang luar biasa, menjadi alat yang ampuh untuk mendukung banyak bidang. Veo3 – teknologi pembuatan video berbasis AI yang baru-baru ini dikembangkan oleh Google DeepMind – mampu menghasilkan rekaman yang sangat realistis. Namun, di samping manfaatnya bagi pengguna, alat ini juga menimbulkan tantangan terkait risiko dieksploitasi oleh pihak-pihak jahat untuk tujuan penipuan.

Sulit untuk membedakan antara yang asli dan yang palsu.

Menurut para ahli teknologi, Veo3 telah menjadi sensasi global berkat kemampuan pembuatan video berbasis AI-nya, yang menawarkan tingkat realisme jauh lebih unggul daripada alat-alat yang tersedia sebelumnya. Tidak seperti Sora milik OpenAI, yang unggul dalam visual tetapi terbatas dalam audio, Veo3 menyinkronkan gambar, suara sekitar, dan dialog dengan mulus. Mulai dari langkah kaki dan angin hingga kata-kata yang diucapkan dan efek di sekitarnya, semuanya menyatu dengan sempurna, mencapai tingkat realisme seperti nyata yang membuat pengguna sulit membedakan antara video asli dan video yang dibuat oleh AI.

Di Vietnam, Veo3 dengan cepat menjadi sensasi di platform media sosial seperti TikTok, Facebook, dan YouTube Shorts. Banyak video yang diberi tagar #veo3 dibagikan dengan kecepatan kilat, menarik jutaan penonton dan ratusan ribu interaksi. Banyak klip yang dihasilkan AI membuat komunitas online takjub dengan realismenya yang luar biasa. Misalnya, video berdurasi 8 detik dengan dialog sederhana mendapatkan 5 juta penonton dan lebih dari 308.000 suka. Video lain, yang dibuat sepenuhnya oleh AI, yang menunjukkan seorang wanita lanjut usia menggoreng telur, juga mencapai lebih dari 2,6 juta penonton dan lebih dari 104.000 suka.

Bapak Tran Vinh Khang, seorang pekerja kantoran di Distrik 1, Kota Ho Chi Minh, berbagi bahwa ia hampir tidak dapat membedakan antara video asli dan palsu karena realismenya yang ekstrem. "Saya melihat video seorang penjual ikan berbicara dengan pelanggan di pasar dan mengira itu nyata karena gambarnya sangat tajam. Cara dia melambaikan tangan, mengangkat alisnya, sinar matahari di wajahnya—semuanya begitu alami sehingga saya tidak percaya itu dibuat oleh AI," kata Bapak Khang.

Gambar-gambar dalam video yang dibuat oleh Veo3 sulit dibedakan antara yang asli dan yang palsu oleh pengguna.

Sembari mengakui kekagumannya, Ibu Nguyen Mai Anh (warga Kota Ho Chi Minh) mengungkapkan kekhawatiran tentang keamanan informasi. "Video yang dibuat oleh Veo3 sangat realistis sehingga saya merasa tidak nyaman. Jika pihak-pihak jahat menggunakan teknologi ini untuk membuat video yang bersifat fitnah, pencemaran nama baik, atau memalsukan bukti, konsekuensinya akan sangat serius," kata Ibu Anh.

Banyak pengguna Vietnam sangat tertarik dengan cara mengakses dan menggunakan Veo3. Namun, Veo3 baru diluncurkan secara resmi oleh Google di pasar AS, melalui paket berlangganan Google AI Ultra dengan biaya $249,99 per bulan. Menghadapi keterbatasan ini, komunitas online Vietnam telah mencari cara untuk mengakali pembatasan tersebut agar dapat menggunakannya. Banyak orang berbagi kiat tentang penggunaan VPN untuk mengubah alamat IP mereka ke AS, sehingga dapat mendaftarkan akun Google di wilayah yang didukung untuk mengaktifkan dan menggunakan Veo3 sebagai pengguna lokal. Menurut para ahli keamanan, ini juga merupakan kerentanan yang dapat dieksploitasi oleh pihak-pihak jahat untuk tujuan yang merugikan.

Kerangka hukum diperlukan untuk AI.

Bapak Le Hong Duc, pendiri OneAds Digital Co., Ltd., menyatakan bahwa produk yang dihasilkan AI seperti video, gambar, dan suara mendekati tingkat realisme yang menakjubkan, dan bahkan dapat langsung diproduksi dan dikomersialkan. Ledakan ini membawa manfaat yang jelas dalam hal biaya dan waktu, tetapi dapat dieksploitasi untuk menyebarkan informasi yang salah atau menyebabkan kepanikan publik. Dalam konteks model AI yang semakin kompleks, kontrol konten menjadi sangat penting, terutama karena teknologi telah jauh melampaui laju pembaruan hukum saat ini.

Oleh karena itu, Bapak Duc mengusulkan perlunya pengembangan hukum khusus untuk AI, yang secara jelas mendefinisikan tanggung jawab mereka yang menciptakan dan membagikan konten AI. Tindakan menyebarkan konten yang menyesatkan, berbahaya, atau beracun harus dihukum berat. Pada saat yang sama, pihak berwenang perlu mengeluarkan kriteria yang membatasi konten yang boleh dibuat pengguna menggunakan AI dan mewajibkan pelabelan yang jelas. Kegagalan untuk mematuhi akan mengakibatkan tanggung jawab hukum dan ganti rugi. "Penerbitan kerangka hukum terpisah untuk AI sangat mendesak untuk mengendalikan teknologi yang berkembang pesat ini, berkontribusi pada pemeliharaan lingkungan digital yang sehat dan mencegah konsekuensi negatif seperti penipuan, pelanggaran etika, atau perilaku ofensif," tegas Bapak Duc.

Selain masalah hukum, seorang pakar keamanan informasi menyampaikan bahwa perkembangan pesat Veo3 juga menimbulkan kekhawatiran di kalangan kreator konten, terutama di bidang seperti film, televisi, dan animasi, yang berisiko secara bertahap digantikan oleh teknologi AI, sehingga menimbulkan tantangan besar dalam melindungi profesi dan hak cipta di industri kreatif. "Peraturan tentang hak kekayaan intelektual untuk konten yang dihasilkan AI perlu segera ditambahkan, karena AI sekarang dapat menghasilkan produk yang sangat realistis. Jika tidak, para kreator akan menghadapi risiko kehilangan pekerjaan di tengah gelombang karya virtual yang membanjiri pasar," kata pakar tersebut.

Waspadalah terhadap layanan penipuan.

Sejak peluncuran Veo3, banyak akun di platform media sosial yang mengaku sebagai "pakar AI" mulai membagikan video demo, tutorial tentang cara mengakses Veo3, atau menjual akun dan layanan dukungan seharga 200.000-300.000 VND. Beberapa pengguna melaporkan berhasil mengakses dan mencobanya, tetapi tidak semua orang dapat mengalaminya. Bapak Le Hong Duc memperingatkan pengguna untuk berhati-hati terhadap layanan penipuan atau tidak resmi dan menyarankan untuk menunggu Google secara resmi meluncurkan Veo3 di pasar Vietnam untuk menghindari penipuan keuangan, pencurian data, atau akses tidak sah ke akun Google mereka.

Sumber: https://nld.com.vn/cap-bach-kiem-soat-noi-dung-ai-196250607190357821.htm