Deepfake berleluasa - Tiada siapa yang selamat daripada helah penyamaran berkuasa AI.

Peniruan suara, peniruan wajah, penyegerakan bibir... AI bukan lagi sekadar untuk kerja atau hiburan; ia menjadi alat berbahaya untuk penipuan komersial. Imej selebriti, doktor, malah sami Buddha disamarkan oleh AI untuk menjual produk secara meluas di media sosial. Orang sebenar tidak menyedarinya, dan pembeli semakin hilang kepercayaan.

"Digunakan" untuk menjual produk.

"Tidak kira bagaimana keadaan lutut anda pada mulanya, gunakan sahaja kaedah kami, dan kami menjamin peningkatan yang ketara dalam masa 7 hari. Jika tiada kesan langsung, saya sanggup membayar 1 bilion VND sebagai permohonan maaf yang ikhlas. Jika anda benar-benar tidak melihat sebarang kesan, kami menjamin bayaran balik 100%, dan saya sendiri sanggup membayar ganti rugi 1 bilion VND. Bukan semua orang berani membuat komitmen sedemikian," itulah kenyataan daripada seorang penyanyi wanita terkenal yang mengiklankan krim urutan melegakan kesakitan untuk sendi, tetapi apa yang perlu diberi perhatian ialah iklan ini dicipta sepenuhnya menggunakan AI.

Klip iklan yang dinyatakan di atas, yang dihasilkan oleh akaun TikTok bernama LShop, menggunakan imej, suara dan bahasa badan penyanyi itu dengan cara yang tidak dapat dikesan tanpa pemerhatian yang teliti. Akaun ini mempunyai hampir 9,000 pengikut, 67,000 tanda suka, dan setiap klip menerima ribuan tontonan. Video yang menampilkan penyanyi itu secara khusus telah mendapat lebih 1,000 tanda suka dan hampir 100 komen yang meminta pembelian.

Bersama produk krim urut itu, saluran jualan juga "menghasilkan" satu lagi versi deepfake, kali ini menampilkan seorang doktor. Dalam klip itu, watak itu dengan yakin berjanji: "Saya doktor ortopedik paling bereputasi di Hanoi , dan saya jamin bahawa koyakan meniskus yang paling teruk pun boleh sembuh sepenuhnya dalam masa 3 hari sahaja. Gel ini telah diperakui oleh persatuan ortopedik paling berprestij di Vietnam." Dialog ini dicipta semula oleh AI untuk beberapa siri "doktor" lain, dengan mudah membuat penonton percaya ia benar.

Video itu telah mendapat hampir 4,000 tanda suka dan lebih 120 komen, tetapi apabila kami menghantar mesej kepada penjual untuk membuat pesanan, akaun tersebut tidak membalas atau berinteraksi dengan penonton di ruangan komen; mereka hanya meninggalkan produk di dalam troli beli-belah untuk pembelian terus. Terutamanya, produk yang diiklankan berasal dari China, dan maklumat produknya sangat samar-samar.

Daripada penyanyi dan selebriti hinggalah doktor, semua orang menjadi sasaran saluran jualan yang mencipta video palsu yang dijana AI dengan menyamar sebagai mereka untuk menjual produk berkaitan kesihatan.

Penipuan deepfake tidak berhenti di situ; ia malah merebak ke perkara kerohanian. Sebuah akaun TikTok bernama Phật Pháp NM bukan sahaja menyiarkan semula kuliah oleh Yang Mulia TPH tetapi juga menggunakan teknologi AI untuk mencipta imej "Yang Mulia" bagi menjual produk seperti daun Bodhi dan gelang gaharu.

Apabila penonton meninggalkan komen yang meminta untuk membeli, saluran tersebut menjawab: "Jika ada yang tidak sesuai dengan keinginan anda, sila pergi ke bahagian paparan di akaun saya dan pilih apa yang anda perlukan. Jangan kedekut dengan jumlah yang kecil dan terlepas sesuatu yang lebih besar." Tidak lama kemudian, sami itu sendiri terpaksa menjelaskan bahawa dia tidak pernah mengiklankan atau terlibat dengan produk sedemikian.

Garisan antara kreativiti dan pelanggaran hak individu.

Menurut pakar keselamatan siber Ngo Minh Hieu (Hieu PC) dari Pusat Pemantauan Keselamatan Siber Kebangsaan (NCSC), klip pengiklanan palsu yang beredar di media sosial kebanyakannya dicipta menggunakan perisian Deepfake. Perisian ini bukanlah sesuatu yang luar biasa; banyak perkhidmatan malah menawarkan pakej pada kos rendah dan operasi yang sangat mudah. ​​Walaupun ia mempunyai aplikasi positif dalam penciptaan kandungan digital dan penghasilan media, Encik Hieu percaya masalahnya terletak pada hakikat bahawa sesetengah individu telah mengeksploitasi teknologi ini untuk tujuan negatif seperti penipuan, penyamaran identiti, penyebaran berita palsu atau memfitnah orang lain melalui video yang kelihatan asli.

Encik Hieu juga menunjukkan beberapa tanda untuk membantu mengenal pasti klip deepfake, seperti ekspresi muka dalam video yang kelihatan kaku, pergerakan mulut dan pergerakan bibir tidak sepadan dengan dialog… Encik Hieu memberi amaran bahawa terdapat situasi yang lebih serius di mana AI telah digunakan untuk menindih wajah mangsa pada video sensitif untuk tujuan intimidasi, paksaan dan keuntungan.

Menurut peguam Tran Duc Phuong dari Persatuan Peguam Bandar Raya Ho Chi Minh, penggunaan AI untuk mencipta imej selebriti (atau individu tertentu) tanpa persetujuan mereka adalah satu pelanggaran hak peribadi, khususnya hak ke atas imej seseorang, seperti yang termaktub dalam Perkara 32 Kanun Sivil 2015. Undang-undang tersebut menyatakan: “Individu mempunyai hak ke atas imej mereka sendiri. Penggunaan imej individu mestilah dengan persetujuan mereka. Penggunaan imej untuk tujuan komersial memerlukan pampasan kepada orang yang imejnya digunakan, melainkan dipersetujui sebaliknya oleh pihak-pihak.”

Oleh itu, jika pemegang akaun media sosial menggunakan imej yang dijana AI daripada foto sebenar, video lama, dsb., untuk tujuan pengiklanan atau jualan tanpa kebenaran, mereka melanggar undang-undang. Jika penggunaan imej melanggar peruntukan ini, orang yang imejnya digunakan berhak untuk meminta perintah mahkamah yang mewajibkan pelanggar, agensi, organisasi atau individu yang berkaitan untuk menarik balik, memusnahkan dan berhenti menggunakan imej tersebut, membayar ganti rugi dan mengenakan sekatan undang-undang lain.

CAM NUONG

Sumber: https://www.sggp.org.vn/deepfake-tran-lan-khong-ai-an-toan-truoc-chieu-tro-gia-danh-bang-ai-post803313.html