Keperluan mendesak untuk mengawal kandungan AI

Kriteria perlu dikeluarkan untuk mengehadkan kandungan yang dibenarkan pengguna buat dengan AI, memaksa pelabelan yang jelas

Hanya dalam beberapa tahun kebelakangan ini, kecerdasan buatan (AI) telah berkembang dan terus bertambah baik pada kelajuan yang memeningkan, menjadi alat sokongan yang mendalam dalam banyak bidang. Veo3 - teknologi penciptaan video menggunakan AI yang dibangunkan baru-baru ini oleh Google DeepMind - mampu mencipta rakaman seperti hidup. Selain utiliti yang menyokong pengguna, alat ini juga menimbulkan cabaran risiko dieksploitasi oleh orang jahat untuk penipuan.

Sukar untuk membezakan antara asli dan palsu

Menurut dunia teknologi, Veo3 telah "menimbulkan kekecohan" di seluruh dunia kerana ciri penciptaan video AInya dengan tahap realisme yang mengatasi mana-mana alat sebelumnya. Tidak seperti Sora OpenAI - yang hanya menonjol dari segi imej tetapi terhad dari segi bunyi, Veo3 menyegerakkan imej, bunyi persekitaran dan dialog dengan sempurna. Daripada tapak kaki, tiupan angin kepada suara manusia dan kesan sekeliling, semuanya digabungkan dengan lancar, mencapai tahap keserupaan hidup, menyukarkan pengguna untuk membezakan antara video sebenar atau yang dicipta oleh AI.

Di Vietnam, Veo3 dengan cepat membuat demam di rangkaian sosial seperti TikTok, Facebook dan YouTube Shorts. Satu siri video dengan hashtag #veo3 telah dikongsi pada kelajuan yang memeningkan, menarik jutaan tontonan dan ratusan ribu interaksi. Banyak klip yang dicipta oleh AI mengejutkan komuniti dalam talian kerana tahap keasliannya yang sukar dipercayai. Sebagai contoh, video 8 saat dengan dialog ringkas mencapai 5 juta tontonan dan lebih daripada 308,000 suka. Satu lagi video yang merakam seorang wanita tua menggoreng telur, yang dicipta sepenuhnya oleh AI, juga mencapai lebih daripada 2.6 juta tontonan dan lebih daripada 104,000 suka.

Encik Tran Vinh Khang - seorang pekerja pejabat di Daerah 1, Ho Chi Minh City - berkongsi bahawa dia sukar membezakan antara yang sebenar dan yang palsu kerana tahap realisme terlalu tinggi. "Saya melihat video seorang penjual ikan bercakap dengan pelanggan di pasar dan menyangka ia adalah benar kerana imej itu sangat tajam. Cara dia melambai tangannya, mengangkat keningnya, cahaya matahari menyinari wajahnya, semuanya sangat semula jadi sehingga sukar dipercayai bahawa ia dicipta oleh AI" - Encik Khang berkata.

Imej dalam filem ciptaan Veo3, pengguna sukar untuk membezakan antara asli dan palsu

Walaupun dia mengaku kagum, Cik Nguyen Mai Anh (tinggal di Ho Chi Minh City) menyatakan kebimbangan tentang keselamatan maklumat. "Video yang dibuat oleh Veo3 sangat realistik sehingga membuatkan saya rasa tidak selamat. Jika orang jahat menggunakan teknologi ini untuk mencipta video untuk memfitnah, memfitnah atau bukti palsu, akibatnya akan menjadi sangat serius" - luah Cik Anh.

Ramai pengguna Vietnam amat berminat dengan cara mengakses dan menggunakan Veo3. Walau bagaimanapun, Veo3 hanya digunakan secara rasmi oleh Google di pasaran AS, melalui pakej langganan Google AI Ultra dengan bayaran 249.99 USD/bulan. Menghadapi batasan ini, komuniti dalam talian Vietnam telah menemui cara untuk "mengatasi halangan" untuk mengalaminya. Ramai orang berkongsi petua tentang menggunakan VPN untuk menukar IP ke AS, dari situ daftarkan akaun Google di rantau yang disokong untuk mengaktifkan dan menggunakan Veo3 seperti pengguna tempatan. Menurut pakar keselamatan, ini juga merupakan satu kelemahan yang boleh dieksploitasi oleh orang jahat untuk melakukan perkara yang tidak baik.

Rangka kerja undang-undang diperlukan untuk AI

Encik Le Hong Duc, pengasas OneAds Digital Company Limited, berkata produk yang dijana AI seperti video, imej atau suara sedang menghampiri tahap realisme yang menakjubkan, malah boleh dimasukkan terus ke dalam pengeluaran dan pengkomersilan. Letupan ini membawa faedah yang jelas dari segi kos dan masa, tetapi boleh dieksploitasi untuk menyebarkan maklumat palsu atau menyebabkan kekeliruan orang ramai. Dalam konteks model AI yang semakin kompleks, kawalan kandungan menjadi mendesak, terutamanya apabila teknologi telah jauh mengatasi kelajuan mengemas kini undang-undang semasa.

Oleh itu, Encik Duc mencadangkan bahawa adalah mendesak untuk membangunkan undang-undang khusus untuk AI, yang mentakrifkan dengan jelas tanggungjawab mereka yang mencipta dan berkongsi kandungan AI. Perbuatan menyebarkan kandungan palsu dan toksik mesti dibenarkan dan dikendalikan dengan ketat. Pada masa yang sama, pihak berkuasa perlu mengeluarkan kriteria untuk mengehadkan kandungan yang dibenarkan pengguna buat dengan AI dan memerlukan label yang jelas. Jika tidak dilaksanakan dengan betul, pengguna mesti memikul tanggungjawab undang-undang dan membayar pampasan untuk sebarang kerosakan yang disebabkan. "Mengeluarkan rangka kerja undang-undang yang berasingan untuk AI adalah amat mendesak untuk mengawal teknologi yang berkembang pesat ini, menyumbang kepada mengekalkan persekitaran digital yang sihat, mencegah akibat seperti penipuan, pelanggaran etika atau tindakan menghina orang lain" - En. Duc menekankan.

Selain kebimbangan undang-undang, pakar keselamatan maklumat berkongsi bahawa perkembangan cemerlang Veo3 juga menimbulkan kebimbangan dalam kalangan pencipta kandungan, terutamanya dalam bidang seperti filem, televisyen dan animasi, yang berisiko digantikan secara beransur-ansur oleh teknologi AI, menimbulkan cabaran besar untuk melindungi kerjaya dan hak cipta dalam industri kreatif. "Adalah perlu untuk menambah peraturan mengenai hak harta intelek tidak lama lagi untuk kandungan yang dijana AI, kerana AI kini mampu menghasilkan produk yang sangat realistik. Jika tidak, pencipta akan menghadapi risiko kehilangan pekerjaan kerana gelombang kerja maya membanjiri pasaran," kata pakar itu.

Berhati-hati dengan perkhidmatan menyamar

Sejak Veo3 meletup, pada platform media sosial, banyak akaun yang mendakwa sebagai "pakar AI" juga telah mula berkongsi video demo, arahan tentang cara untuk mengakses Veo3 atau menjual akaun dan perkhidmatan sokongan untuk harga antara 200,000 hingga 300,000 VND. Sesetengah pengguna berkata mereka telah berjaya mengakses dan mencubanya, tetapi tidak semua orang dapat mengalaminya. Encik Le Hong Duc memberi amaran kepada pengguna supaya berhati-hati dengan perkhidmatan palsu atau tidak rasmi, dan mengesyorkan menunggu Google untuk menggunakan Veo3 secara rasmi di pasaran Vietnam untuk mengelakkan penipuan kewangan, kecurian data atau mengambil alih kawalan ke atas akaun Google.

Sumber: https://nld.com.vn/cap-bach-kiem-soat-noi-dung-ai-196250607190357821.htm