Deepfake merajalela - Tidak ada yang aman dari trik peniruan AI

Menjadi "wajah pinjaman" untuk menjual barang

"Apa pun kondisi lutut Anda, cukup terapkan metode kami. Kami jamin dalam 7 hari akan membaik secara signifikan. Jika sama sekali tidak efektif, saya bersedia mengganti rugi 1 miliar VND sebagai permintaan maaf yang tulus. Jika Anda benar-benar tidak merasakan efeknya, kami berkomitmen untuk pengembalian dana 100% dan saya sendiri bersedia mengganti rugi 1 miliar VND. Tidak semua orang berani melakukan hal seperti itu," begitulah yang dibagikan oleh seorang penyanyi wanita terkenal yang mengiklankan krim pijat pereda nyeri sendi. Namun, perlu diketahui bahwa iklan ini sepenuhnya dibuat oleh AI.

Klip iklan di atas digunakan oleh akun TikTok bernama LShop yang menggunakan gambar, suara, dan bahasa tubuh penyanyi tersebut secara realistis sehingga sulit dikenali tanpa pengamatan yang cermat. Akun ini memiliki hampir 9.000 pengikut, 67.000 suka, dan setiap klip telah ditonton ribuan kali. Video "iklan" yang menggunakan gambar penyanyi tersebut saja telah menarik lebih dari 1.000 suka dan hampir 100 komentar untuk pembelian.

Dengan produk krim pijat yang sama, saluran penjualan juga "memproduksi" versi deepfake lainnya, kali ini seorang dokter. Dalam klip tersebut, karakter tersebut dengan tegas berjanji: "Saya adalah dokter ortopedi paling bergengsi di Hanoi dan saya jamin bahwa robekan meniskus yang paling parah pun dapat disembuhkan sepenuhnya hanya dalam 3 hari. Gel ini telah disertifikasi oleh asosiasi ortopedi paling bergengsi di Vietnam." Kalimat ini direka ulang oleh AI untuk serangkaian "dokter" lain, sehingga mudah bagi penonton untuk salah mengiranya sebagai asli.

Klip tersebut menarik hampir 4.000 suka dan lebih dari 120 komentar, tetapi ketika kami mengirim pesan teks untuk mencoba membeli, akun tersebut tidak merespons, juga tidak berinteraksi dengan penonton di kolom komentar, dan hanya meninggalkan produk di keranjang untuk pembelian langsung. Terlebih lagi, produk yang dijual berasal dari Tiongkok dan informasi produknya sangat samar.

Dari penyanyi, selebriti hingga dokter, semuanya telah ditiru oleh saluran penjualan yang membuat klip AI untuk menjual produk terkait kesehatan.

Tak berhenti di situ, trik deepfake juga merambah ke ranah spiritual. Sebuah akun TikTok bernama Phat Phap NM tak hanya mengunggah ulang ceramah Master TPH, tetapi juga menggunakan teknologi AI untuk menciptakan gambar sang "master" yang menjual produk-produk seperti daun Bodhi dan gelang gaharu.

Ketika penonton meninggalkan komentar yang meminta untuk membeli, kanal tersebut menanggapi: "Jika tidak berjalan sesuai rencana, silakan kunjungi bagian tampilan di akun saya dan pilih apa yang Anda butuhkan. Jangan pelit dengan uang receh dan abaikan yang lebih besar." Segera setelah itu, biksu ini sendiri harus angkat bicara untuk mengklarifikasi bahwa ia tidak pernah mengiklankan atau terlibat dengan produk semacam itu.

Batas Antara Kreativitas dan Pelanggaran

Pakar keamanan siber Ngo Minh Hieu (Hieu PC) dari Pusat Pemantauan Keamanan Siber Nasional (NCSC) mengatakan bahwa klip iklan palsu yang tersebar di media sosial sebagian besar dibuat dengan perangkat lunak Deepfake. Perangkat lunak ini tidak jarang, dan banyak layanan bahkan menawarkan paket dengan biaya rendah dan pengoperasian yang sangat mudah. Meskipun terdapat aplikasi positif di bidang pembuatan konten digital dan produksi media, menurut Bapak Hieu, permasalahannya terletak pada kenyataan bahwa beberapa pihak telah memanfaatkan teknologi ini untuk tujuan negatif seperti penipuan, pemalsuan identitas, menyebarkan berita palsu, atau mencemarkan nama baik orang lain melalui video yang tampak nyata.

Tuan Hieu juga memberikan beberapa tanda untuk membantu mengidentifikasi klip deepfake, seperti ekspresi wajah dalam video yang agak kaku, bentuk dan gerakan mulut yang tidak sesuai dengan dialog... Tuan Hieu memperingatkan bahwa ada situasi yang lebih serius ketika AI digunakan untuk memasukkan wajah korban ke dalam video sensitif untuk tujuan intimidasi, pemaksaan, dan mencari untung.

Menurut pengacara Tran Duc Phuong dari Asosiasi Pengacara Kota Ho Chi Minh, penggunaan AI untuk membuat gambar selebritas (atau individu tertentu) tanpa persetujuan mereka merupakan tindakan pelanggaran hak pribadi, khususnya hak atas gambar, sebagaimana diatur dalam Pasal 32 Kitab Undang-Undang Hukum Perdata tahun 2015. Undang-undang tersebut menetapkan: “Setiap individu berhak atas gambarnya sendiri. Penggunaan gambar seseorang harus mendapatkan persetujuan dari orang tersebut. Penggunaan gambar untuk tujuan komersial harus membayar imbalan kepada orang yang gambarnya digunakan, kecuali para pihak memiliki perjanjian lain.”

Dengan demikian, jika pemilik akun media sosial menggunakan gambar hasil rekayasa AI dari foto asli, video lama, dll. untuk tujuan periklanan atau penjualan tanpa izin, ia telah melanggar hukum. Jika penggunaan gambar melanggar ketentuan pasal ini, pemilik gambar berhak meminta pengadilan untuk mengeluarkan keputusan yang memaksa pelanggar, instansi, organisasi, dan individu terkait untuk mencabut, memusnahkan, dan menghentikan penggunaan gambar tersebut, memberikan kompensasi atas kerugian, dan menerapkan tindakan lain sesuai dengan ketentuan hukum.

CAM NUONG

Sumber: https://www.sggp.org.vn/deepfake-tran-lan-khong-ai-an-toan-truoc-chieu-tro-gia-danh-bang-ai-post803313.html