Keperluan segera untuk mengawal kandungan AI.

Kriteria harus diwujudkan untuk mengehadkan kandungan yang dibenarkan pengguna cipta menggunakan AI, dan pelabelan yang jelas harus diwajibkan.

Dalam beberapa tahun kebelakangan ini, kecerdasan buatan (AI) telah berkembang dan terus bertambah baik pada kadar yang sangat pantas, menjadi alat yang ampuh yang menyokong pelbagai bidang. Veo3 – teknologi penciptaan video berkuasa AI yang baru-baru ini dibangunkan oleh Google DeepMind – mampu menghasilkan rakaman yang sangat nyata. Walau bagaimanapun, di samping manfaat penggunanya, alat ini juga menimbulkan cabaran mengenai risiko dieksploitasi oleh pelaku jahat untuk tujuan penipuan.

Sukar untuk membezakan antara yang asli dan yang palsu.

Menurut pakar teknologi, Veo3 telah menjadi sensasi global kerana keupayaan penciptaan video AI-nya, dengan tahap realisme yang jauh lebih unggul daripada alat yang tersedia sebelum ini. Tidak seperti Sora OpenAI, yang cemerlang dalam visual tetapi terhad dalam audio, Veo3 menyegerakkan imej, bunyi ambien dan dialog dengan lancar. Daripada langkah kaki dan angin hinggalah kata-kata yang dituturkan dan kesan sekeliling, semuanya sebati dengan lancar, mencapai tahap realisme seperti sebenar yang menyukarkan pengguna untuk membezakan antara video sebenar dan video yang dicipta oleh AI.

Di Vietnam, Veo3 dengan pantas menjadi sensasi di platform media sosial seperti TikTok, Facebook dan YouTube Shorts. Banyak video yang ditag #veo3 telah dikongsi sepantas kilat, menarik berjuta-juta tontonan dan ratusan ribu interaksi. Banyak klip yang dihasilkan oleh AI telah memukau komuniti dalam talian dengan realisme mereka yang luar biasa. Contohnya, video berdurasi 8 saat dengan dialog ringkas telah mendapat 5 juta tontonan dan lebih 308,000 tanda suka. Satu lagi video, yang dicipta sepenuhnya oleh AI, menunjukkan seorang wanita tua menggoreng telur, juga mencapai lebih 2.6 juta tontonan dan lebih 104,000 tanda suka.

Encik Tran Vinh Khang, seorang pekerja pejabat di Daerah 1, Bandar Raya Ho Chi Minh, berkongsi bahawa beliau hampir tidak dapat membezakan antara video sebenar dan palsu kerana realismenya yang melampau. "Saya melihat video seorang penjual ikan bercakap dengan seorang pelanggan di pasar dan menyangka ia adalah video sebenar kerana imejnya sangat tajam. Cara dia melambai, mengangkat keningnya, cahaya matahari di wajahnya—semuanya begitu semula jadi sehingga saya tidak percaya ia dicipta oleh AI," kata Encik Khang.

Imej dalam video yang dihasilkan oleh Veo3 sukar untuk pengguna membezakan antara yang asli dan palsu.

Sambil mengakui kekagumannya, Cik Nguyen Mai Anh (seorang penduduk Bandar Raya Ho Chi Minh) menyuarakan kebimbangan mengenai keselamatan maklumat. "Video yang dihasilkan oleh Veo3 begitu realistik sehingga saya rasa tidak selesa. Jika pelaku jahat menggunakan teknologi ini untuk mencipta video fitnah, memfitnah atau mereka-reka bukti, akibatnya akan menjadi sangat serius," kata Cik Anh.

Ramai pengguna Vietnam amat berminat dengan cara mengakses dan menggunakan Veo3. Walau bagaimanapun, Veo3 hanya dilancarkan secara rasmi oleh Google di pasaran AS, melalui pakej langganan Google AI Ultra dengan kos $249.99 sebulan. Berdepan dengan batasan ini, komuniti dalam talian Vietnam telah mencari jalan untuk memintas sekatan bagi mengalaminya. Ramai orang berkongsi petua tentang penggunaan VPN untuk menukar alamat IP mereka ke AS, sekali gus mendaftarkan akaun Google di rantau yang disokong untuk mengaktifkan dan menggunakan Veo3 sebagai pengguna setempat. Menurut pakar keselamatan, ini juga merupakan kelemahan yang boleh dieksploitasi oleh pelaku jahat untuk tujuan jahat.

Kerangka kerja perundangan diperlukan untuk AI.

Encik Le Hong Duc, pengasas OneAds Digital Co., Ltd., menyatakan bahawa produk yang dihasilkan oleh AI seperti video, imej dan suara sedang menghampiri tahap realisme yang menakjubkan, malah boleh terus dihasilkan dan dikomersialkan. Ledakan ini membawa manfaat yang jelas dari segi kos dan masa, tetapi ia boleh dieksploitasi untuk menyebarkan maklumat salah atau menyebabkan panik orang ramai. Dalam konteks model AI yang semakin kompleks, kawalan kandungan menjadi penting, terutamanya kerana teknologi telah jauh mengatasi kadar kemas kini undang-undang semasa.

Oleh itu, Encik Duc mencadangkan keperluan segera untuk membangunkan undang-undang khusus untuk AI, yang mentakrifkan dengan jelas tanggungjawab mereka yang mencipta dan berkongsi kandungan AI. Tindakan menyebarkan kandungan yang mengelirukan, berbahaya atau toksik mesti dihukum berat. Pada masa yang sama, pihak berkuasa perlu mengeluarkan kriteria yang mengehadkan kandungan yang dibenarkan pengguna cipta menggunakan AI dan mewajibkan pelabelan yang jelas. Kegagalan untuk mematuhi akan mengakibatkan liabiliti undang-undang dan pampasan untuk ganti rugi. "Pengeluaran rangka kerja undang-undang yang berasingan untuk AI adalah sangat penting untuk mengawal teknologi yang pesat membangun ini, menyumbang kepada mengekalkan persekitaran digital yang sihat dan mencegah akibat negatif seperti penipuan, pelanggaran etika atau tingkah laku yang menyinggung perasaan," tegas Encik Duc.

Selain kebimbangan undang-undang, seorang pakar keselamatan maklumat berkongsi bahawa perkembangan pesat Veo3 juga menimbulkan kebimbangan dalam kalangan pencipta kandungan, terutamanya dalam bidang seperti filem, televisyen dan animasi, yang berisiko digantikan secara beransur-ansur oleh teknologi AI, sekali gus menimbulkan cabaran besar dalam melindungi profesion dan hak cipta dalam industri kreatif. "Peraturan mengenai hak harta intelek untuk kandungan yang dijana AI perlu ditambah tidak lama lagi, kerana AI kini boleh menghasilkan produk yang sangat realistik. Jika tidak, pencipta akan menghadapi risiko kehilangan pekerjaan mereka di tengah-tengah gelombang kerja maya yang membanjiri pasaran," kata pakar itu.

Berhati-hati dengan perkhidmatan palsu.

Sejak pelancaran Veo3, banyak akaun di platform media sosial yang mendakwa sebagai "pakar AI" telah mula berkongsi video demo, tutorial tentang cara mengakses Veo3 atau menjual akaun dan perkhidmatan sokongan dengan harga 200,000-300,000 VND. Sesetengah pengguna melaporkan berjaya mengakses dan mencubanya, tetapi tidak semua orang dapat merasainya. Encik Le Hong Duc memberi amaran kepada pengguna supaya berhati-hati dengan perkhidmatan palsu atau tidak rasmi dan mengesyorkan agar menunggu Google melancarkan Veo3 secara rasmi di pasaran Vietnam bagi mengelakkan penipuan kewangan, kecurian data atau akses tanpa kebenaran ke akaun Google mereka.

Sumber: https://nld.com.vn/cap-bach-kiem-soat-noi-dung-ai-196250607190357821.htm