Kebutuhan mendesak untuk mengendalikan konten AI

Kriteria perlu dikeluarkan untuk membatasi konten yang dapat dibuat oleh pengguna dengan AI, sehingga memaksa adanya pelabelan yang jelas

Hanya dalam beberapa tahun terakhir, kecerdasan buatan (AI) telah berkembang dan terus meningkat dengan kecepatan yang luar biasa, menjadikannya alat pendukung yang andal di berbagai bidang. Veo3—sebuah teknologi pembuatan video menggunakan AI yang baru-baru ini dikembangkan oleh Google DeepMind—mampu menciptakan rekaman video yang tampak nyata. Selain utilitas yang mendukung pengguna, alat ini juga menghadirkan tantangan berupa risiko dieksploitasi oleh orang jahat untuk melakukan penipuan.

Sulit membedakan antara yang asli dan palsu

Menurut dunia teknologi, Veo3 telah "menimbulkan kehebohan" global berkat fitur pembuatan video AI-nya yang memiliki tingkat realisme yang melampaui perangkat lunak sebelumnya. Berbeda dengan Sora dari OpenAI—yang hanya unggul dalam hal gambar tetapi terbatas dalam hal suara—Veo3 menyinkronkan gambar, suara lingkungan, dan dialog dengan sempurna. Mulai dari langkah kaki, hembusan angin, hingga suara manusia dan efek di sekitarnya, semuanya tergabung dengan mulus, mencapai tingkat kenyataaan, sehingga pengguna sulit membedakan antara video asli dan video yang dibuat oleh AI.

Di Vietnam, Veo3 dengan cepat menjadi perbincangan di media sosial seperti TikTok, Facebook, dan YouTube Shorts. Serangkaian video dengan tagar #veo3 dibagikan dengan sangat cepat, menarik jutaan penayangan dan ratusan ribu interaksi. Banyak klip yang dibuat oleh AI mengejutkan komunitas daring karena tingkat keasliannya yang luar biasa. Misalnya, video berdurasi 8 detik dengan dialog sederhana mencapai 5 juta penayangan dan lebih dari 308.000 suka. Video lain yang merekam seorang wanita tua menggoreng telur, yang sepenuhnya dibuat oleh AI, juga mencapai lebih dari 2,6 juta penayangan dan lebih dari 104.000 suka.

Bapak Tran Vinh Khang, seorang pekerja kantoran di Distrik 1, Kota Ho Chi Minh, bercerita bahwa ia hampir tidak bisa membedakan mana yang asli dan mana yang palsu karena tingkat realismenya terlalu tinggi. "Saya melihat video seorang penjual ikan sedang berbicara dengan pelanggan di pasar dan mengira itu asli karena gambarnya sangat tajam. Cara dia melambaikan tangan, mengangkat alis, sinar matahari yang menyinari wajahnya, semuanya begitu alami sehingga sulit dipercaya bahwa itu semua hasil karya AI," ujar Bapak Khang.

Gambar dalam film yang dibuat oleh Veo3, pengguna merasa sulit membedakan antara yang asli dan palsu

Meskipun mengaku terkesan, Ibu Nguyen Mai Anh (yang tinggal di Kota Ho Chi Minh) mengungkapkan kekhawatirannya tentang keamanan informasi. "Video yang dibuat oleh Veo3 sangat realistis sehingga membuat saya merasa tidak aman. Jika orang jahat menggunakan teknologi ini untuk membuat video guna memfitnah, mencemarkan nama baik, atau memalsukan bukti, konsekuensinya akan sangat serius," ungkap Ibu Anh.

Banyak pengguna Vietnam yang tertarik dengan cara mengakses dan menggunakan Veo3. Namun, Veo3 baru resmi diluncurkan oleh Google di pasar AS, melalui paket berlangganan Google AI Ultra dengan biaya 249,99 USD/bulan. Menghadapi keterbatasan ini, komunitas daring Vietnam telah menemukan cara untuk "mengatasi hambatan" tersebut agar dapat menikmatinya. Banyak orang berbagi tips menggunakan VPN untuk mengubah IP ke AS, lalu mendaftarkan akun Google di wilayah yang didukung untuk mengaktifkan dan menggunakan Veo3 seperti pengguna lokal. Menurut pakar keamanan, ini juga merupakan celah yang dapat dimanfaatkan oleh orang jahat untuk melakukan tindakan curang.

Kerangka hukum yang dibutuhkan untuk AI

Bapak Le Hong Duc, pendiri OneAds Digital Company Limited, mengatakan bahwa produk-produk berbasis AI seperti video, gambar, atau suara kini mendekati tingkat realisme yang mencengangkan, dan bahkan dapat langsung diproduksi dan dikomersialkan. Ledakan ini memang memberikan keuntungan yang nyata dari segi biaya dan waktu, tetapi dapat dimanfaatkan untuk menyebarkan informasi palsu atau menimbulkan kebingungan publik. Dalam konteks model AI yang semakin kompleks, pengendalian konten menjadi sangat mendesak, terutama ketika teknologi telah jauh melampaui kecepatan pembaruan hukum yang berlaku.

Oleh karena itu, Bapak Duc mengusulkan agar segera disusun undang-undang khusus untuk AI, yang secara jelas mendefinisikan tanggung jawab para pembuat dan penyebar konten AI. Tindakan penyebaran konten palsu dan beracun harus dikenai sanksi dan ditangani secara tegas. Di saat yang sama, pihak berwenang perlu menetapkan kriteria untuk membatasi konten yang boleh dibuat pengguna dengan AI dan mewajibkan pelabelan yang jelas. Jika tidak diterapkan dengan benar, pengguna harus bertanggung jawab secara hukum dan memberikan kompensasi atas kerugian yang ditimbulkan. "Penerbitan kerangka hukum terpisah untuk AI sangat mendesak untuk mengendalikan teknologi yang berkembang pesat ini, berkontribusi dalam menjaga lingkungan digital yang sehat, dan mencegah konsekuensi seperti penipuan, pelanggaran etika, atau tindakan menghina orang lain," tegas Bapak Duc.

Selain masalah hukum, seorang pakar keamanan informasi menyampaikan bahwa perkembangan Veo3 yang luar biasa juga menimbulkan kekhawatiran di kalangan kreator konten, terutama di bidang-bidang seperti film, televisi, dan animasi, yang berisiko tergantikan secara bertahap oleh teknologi AI, sehingga menimbulkan tantangan besar bagi perlindungan karier dan hak cipta di industri kreatif. "Peraturan tentang hak kekayaan intelektual untuk konten yang dihasilkan AI perlu segera ditambahkan, karena AI kini mampu menghasilkan produk yang sangat realistis. Jika tidak, kreator akan menghadapi risiko kehilangan pekerjaan akibat gelombang karya virtual yang membanjiri pasar," ujar pakar tersebut.

Waspadalah terhadap layanan peniruan identitas

Sejak Veo3 meroket, di platform media sosial, banyak akun yang mengaku sebagai "pakar AI" juga mulai membagikan video demo, petunjuk tentang cara mengakses Veo3, atau menjual akun dan layanan dukungan dengan harga mulai dari 200.000 hingga 300.000 VND. Beberapa pengguna mengatakan mereka telah berhasil mengakses dan mencobanya, tetapi tidak semua orang dapat merasakannya. Bapak Le Hong Duc memperingatkan pengguna untuk berhati-hati dengan layanan palsu atau tidak resmi, dan menyarankan untuk menunggu Google resmi meluncurkan Veo3 di pasar Vietnam guna menghindari penipuan keuangan, pencurian data, atau pengambilalihan kendali akun Google.

Sumber: https://nld.com.vn/cap-bach-kiem-soat-noi-dung-ai-196250607190357821.htm