YouTube meluncurkan alat 'Deteksi kemiripan' untuk melindungi gambar dan suara dari deepfake

Maraknya video deepfake mengaburkan batas antara yang asli dan yang palsu. Dari selebritas hingga kreator konten, semua orang bisa menjadi korban teknologi ini.

Menghadapi kenyataan itu, YouTube dan banyak platform daring lainnya mencoba menemukan keseimbangan antara kebebasan berkreasi dan kendali identitas digital.

YouTube menguji alat pengenalan peniruan identitas AI

YouTube telah memperkenalkan fitur baru bernama "Deteksi Kesamaan", yang secara harfiah berarti pengenalan kemiripan wajah dan suara. Ketika kreator mendeteksi video yang tampak palsu, mereka dapat mengirimkan permintaan verifikasi langsung melalui fitur ini.

Sistem akan menggunakan model kecerdasan buatan untuk membandingkan data wajah dan suara dengan profil asli pemohon. Jika hasilnya menunjukkan tingkat kecocokan yang tinggi, video akan dikirim ke departemen moderasi YouTube untuk ditinjau lebih lanjut.

Hal ini membantu mengurangi kemungkinan terhapusnya konten yang valid secara tidak sengaja, sekaligus meningkatkan akurasi deteksi deepfake.

Berbeda dengan alat pelaporan hak cipta atau konten yang melanggar hak cipta sebelumnya, fitur pengenalan baru ini berfokus pada identitas pribadi. Orang yang ditiru identitasnya tidak perlu membuktikan kepemilikan gambar atau konten, cukup konfirmasikan penggunaan wajah atau suara mereka yang tidak sah.

YouTube menyatakan bahwa tujuan alat ini adalah untuk mengembalikan kendali kepada kreator, karena semakin banyak video yang menggunakan teknologi sintesis gambar dan suara yang mempersulit penonton untuk membedakan antara video asli dan palsu. Alat ini diperkirakan akan diluncurkan secara bertahap di AS sebelum diperluas ke wilayah lain tahun depan.

Langkah-langkah untuk mengatasi gelombang deepfake

Deepfake kini tak lagi terbatas pada video hiburan atau satir. Hanya dalam beberapa tahun, teknologi ini telah digunakan untuk penipuan, tujuan politik , dan manipulasi informasi. Banyaknya kasus selebritas yang wajahnya dipotong, atau bahkan suaranya dipalsukan, dalam iklan atau konten sensitif telah menimbulkan kekhawatiran tentang keandalan informasi yang mereka lihat daring.

Menghadapi gelombang tersebut, platform media sosial pun berupaya merespons secara bersamaan. Meta mengumumkan rencana untuk melabeli video yang dibuat oleh kecerdasan buatan sebagai "dihasilkan AI", sementara TikTok menambahkan bagian "dihasilkan AI" ke bagian pelaporan pelanggarannya, sehingga memudahkan pengguna untuk merespons ketika mereka menemukan video palsu. Bagi YouTube, langkah ini menunjukkan upaya proaktifnya dalam menghadapi gelombang deepfake yang meluas dan tak terkendali.

Peluncuran fitur ini juga menunjukkan bahwa YouTube berupaya mengatur ulang standar pengelolaan konten di era AI. Platform ini tidak hanya menangani video yang melanggar hak cipta, tetapi juga menciptakan mekanisme yang memberikan ruang bagi kreator untuk menyuarakan pendapat mereka dalam melindungi identitas digital mereka.

Beberapa pakar media melihat hal ini sebagai tanda bahwa perusahaan teknologi telah mulai beralih dari fase “beradaptasi dengan AI” ke fase “mengendalikan dampak AI”.

Namun, penerapan alat deteksi deepfake dalam skala global bukanlah hal yang mudah. Perbedaan undang-undang perlindungan data antarnegara dan kompleksitas dalam menentukan konten palsu yang berbahaya akan menjadi tantangan bagi YouTube dalam proses implementasinya.

Batas Antara Kreativitas dan Sensor

Melawan deepfake menimbulkan pertanyaan tentang batasan pembuatan konten. Banyak kreator video khawatir bahwa alat pengenalan otomatis dapat memengaruhi produk berbasis AI yang sah, seperti film pendek atau video demonstrasi. Seiring dengan semakin kaburnya batasan antara kreativitas dan kepalsuan, platform harus menemukan cara untuk melindungi pengguna tanpa mengurangi kebebasan berkreasi.

YouTube menegaskan bahwa alat pengenalan ini tidak dimaksudkan untuk membatasi kreativitas, melainkan untuk melindungi hak atas kendali atas citra pribadi. Namun, para ahli mengatakan bahwa menentukan apa yang berbahaya dan apa yang merupakan karya yang sah akan tetap menjadi tantangan besar.

Perlombaan antara pembuatan barang palsu dan teknologi pendeteksi barang palsu kemungkinan akan terus berlanjut, dan alat baru YouTube ini hanyalah langkah kecil dalam upaya mempertahankan barang asli di era yang semakin virtual.

THANH THU

Sumber: https://tuoitre.vn/youtube-tung-cong-cu-likeness-detection-bao-ve-hinh-anh-va-giong-noi-truoc-deepfake-20251023163915973.htm