Deepfakes berleluasa - Tiada siapa yang selamat daripada helah penyamaran AI

Tiruan suara, tiruan muka, penyegerakan bibir... AI kini bukan sahaja untuk kerja dan hiburan tetapi menjadi alat penipuan komersial yang berbahaya. Imej selebriti, doktor, dan juga sami sedang ditiru oleh AI untuk menjual produk di seluruh rangkaian sosial. Orang sebenar tidak tahu, dan pembeli hilang kepercayaan.

Menjadi "muka pinjam" untuk menjual barang

"Tidak kira apa keadaan lutut asal, gunakan sahaja kaedah kami, kami menjamin bahawa dalam masa 7 hari ia akan bertambah baik dengan ketara, jika ia benar-benar tidak berkesan, saya bersedia untuk membayar pampasan 1 bilion VND sebagai permohonan maaf yang ikhlas. Jika anda benar-benar tidak nampak apa-apa kesan, kami komited untuk bayaran balik 100% dan saya sendiri bersedia untuk membayar pampasan 1 bilion, VND, bukan semua orang yang berkongsi pengiklanan seperti itu, VND, bukan semua orang yang berkomitmen untuk pengiklanan seperti itu. produk krim urut penghilang sakit sendi, tetapi perlu dinyatakan bahawa iklan ini dicipta sepenuhnya oleh AI.

Klip iklan di atas digunakan oleh akaun TikTok bernama LShop menggunakan imej penyanyi, suara dan bahasa badan secara realistik yang tidak dapat dikesan tanpa pemerhatian yang teliti. Akaun ini mempunyai hampir 9,000 pengikut, 67,000 suka dan setiap klip mempunyai ribuan tontonan. Video "pengiklanan" sahaja menggunakan imej penyanyi itu telah menarik lebih 1,000 suka dan hampir 100 komen untuk pembelian.

Dengan produk krim urut yang sama, saluran jualan juga "menghasilkan" satu lagi versi deepfake, kali ini seorang doktor. Dalam klip itu, watak itu dengan tegas berjanji: "Saya adalah doktor ortopedik yang paling berprestij di Hanoi dan saya menjamin bahawa walaupun koyakan meniskus yang paling serius boleh sembuh sepenuhnya dalam hanya 3 hari. Gel ini telah diperakui oleh persatuan ortopedik paling berprestij di Vietnam". Baris ini telah dicipta semula oleh AI untuk satu siri "doktor" lain, memudahkan penonton untuk mengelirukannya secara sebenar.

Klip itu menarik hampir 4,000 suka dan lebih daripada 120 komen, tetapi apabila kami menghantar mesej teks untuk cuba membeli, akaun itu tidak bertindak balas, mahupun ia tidak berinteraksi dengan penonton di bahagian komen, hanya meninggalkan produk dalam troli untuk pembelian terus. Terutamanya, produk yang dijual adalah dari China dan maklumat produk sangat kabur.

Daripada penyanyi, selebriti hingga doktor, semuanya telah ditiru oleh saluran jualan yang mencipta klip AI untuk menjual produk berkaitan kesihatan.

Tidak terhenti di situ, helah deepfake juga telah merebak ke hal-hal rohani. Akaun TikTok bernama Phat Phap NM bukan sahaja menyiarkan semula kuliah Master TPH tetapi juga menggunakan teknologi AI untuk mencipta imej produk jualan "tuan" seperti daun Bodhi dan gelang kayu gaharu.

Apabila penonton meninggalkan komen meminta untuk membeli, saluran itu menjawab: "Jika perkara tidak berjalan seperti yang dirancang, pergi ke bahagian paparan pada akaun saya dan pilih perkara yang anda perlukan, jangan kedekut dengan perubahan kecil dan abaikan yang lebih besar." Sejurus selepas itu, sami ini sendiri terpaksa bersuara untuk menjelaskan bahawa dia tidak pernah mengiklan atau terlibat dengan produk sedemikian.

Garisan Antara Kreativiti dan Pelanggaran

Pakar keselamatan siber Ngo Minh Hieu (Hieu PC) dari Pusat Pemantauan Keselamatan Siber Kebangsaan (NCSC) berkata bahawa klip pengiklanan palsu yang tersebar di rangkaian sosial kebanyakannya dicipta dengan perisian Deepfake. Perisian ini tidak jarang, malah banyak perkhidmatan menyediakan pakej dengan kos rendah dan operasi yang sangat mudah. Walaupun terdapat aplikasi positif dalam bidang penciptaan kandungan digital dan penghasilan media, menurut Encik Hieu, masalahnya terletak pada fakta bahawa sesetengah subjek telah mengambil kesempatan daripada teknologi ini untuk tujuan negatif seperti penipuan, pemalsuan identiti, menyebarkan berita palsu atau memfitnah orang lain melalui video yang kelihatan benar.

En. Hieu juga memberikan beberapa tanda untuk membantu mengenal pasti klip deepfake, seperti ekspresi muka dalam video yang agak kaku, bentuk mulut dan pergerakan tidak sepadan dengan dialog... En. Hieu memberi amaran bahawa terdapat situasi yang lebih serius apabila AI digunakan untuk memasukkan muka mangsa ke dalam video sensitif untuk tujuan ugutan, paksaan dan pencatutan.

Menurut peguam Tran Duc Phuong, Persatuan Peguam Bandar Ho Chi Minh, menggunakan AI untuk mencipta imej selebriti (atau individu tertentu) tanpa persetujuan mereka adalah tindakan melanggar hak peribadi, khususnya hak untuk imej, seperti yang ditetapkan dalam Perkara 32 Kanun Sivil 2015. Undang-undang menetapkan: "Individu mempunyai hak untuk imej mereka sendiri. Penggunaan imej individu mesti mendapat persetujuan orang itu. Penggunaan imej untuk tujuan komersial mesti membayar imbuhan kepada orang yang imejnya digunakan, melainkan pihak-pihak mempunyai perjanjian lain."

Oleh itu, jika pemilik akaun rangkaian sosial menggunakan imej yang dicipta semula AI daripada foto sebenar, video lama, dsb. untuk tujuan pengiklanan atau jualan tanpa kebenaran, dia telah melanggar undang-undang. Jika penggunaan imej melanggar peruntukan artikel ini, orang yang mempunyai imej itu berhak meminta mahkamah mengeluarkan keputusan yang memaksa pelanggar, agensi, organisasi, dan individu yang berkaitan untuk menarik balik, memusnahkan, dan menamatkan penggunaan imej itu, membayar pampasan bagi ganti rugi, dan menggunakan langkah lain mengikut peruntukan undang-undang.

CAM NUONG

Sumber: https://www.sggp.org.vn/deepfake-tran-lan-khong-ai-an-toan-truoc-chieu-tro-gia-danh-bang-ai-post803313.html