YouTube meluncurkan alat 'Deteksi kemiripan' untuk melindungi gambar dan suara dari deepfake

Maraknya video deepfake mengaburkan batasan antara yang nyata dan yang palsu. Mulai dari selebriti hingga kreator konten, siapa pun bisa menjadi korban teknologi ini.

Menghadapi kenyataan itu, YouTube dan banyak platform online lainnya berupaya menemukan keseimbangan antara kebebasan kreatif dan kendali atas identitas digital.

YouTube sedang menguji alat pendeteksi peniruan identitas berbasis AI.

YouTube telah memperkenalkan fitur baru bernama 'Deteksi Kemiripan,' yang dapat diartikan sebagai identifikasi kemiripan fitur wajah dan suara. Ketika kreator menemukan video yang menunjukkan tanda-tanda peniruan gambar atau suara mereka, mereka dapat mengirimkan permintaan verifikasi langsung melalui fitur ini.

Sistem ini akan menggunakan model kecerdasan buatan untuk membandingkan data wajah dan suara dengan profil asli pemohon. Jika hasilnya menunjukkan tingkat kecocokan yang tinggi, video tersebut akan dikirim ke departemen moderasi YouTube untuk ditinjau lebih lanjut.

Hal ini membantu mengurangi penghapusan konten sah secara tidak sengaja dan meningkatkan akurasi deteksi deepfake.

Berbeda dengan alat pelaporan pelanggaran hak cipta atau konten yang melanggar hak cipta sebelumnya, fitur pengenalan baru ini berfokus pada identitas pribadi. Mereka yang identitasnya dipalsukan tidak perlu membuktikan kepemilikan gambar atau konten tersebut; mereka hanya perlu mengkonfirmasi penggunaan wajah atau suara mereka tanpa izin.

Menurut YouTube, tujuan dari alat ini adalah untuk mengembalikan kendali kepada para kreator, dalam konteks meningkatnya jumlah video yang menggunakan teknologi sintesis gambar dan suara yang menyulitkan pemirsa untuk membedakan antara yang asli dan yang palsu. Alat ini diharapkan akan diluncurkan secara bertahap di AS sebelum diperluas ke wilayah lain tahun depan.

Langkah-langkah untuk mengatasi gelombang deepfake

Deepfake tidak lagi terbatas pada video hiburan atau satir. Hanya dalam beberapa tahun, teknologi ini telah digunakan untuk penipuan, tujuan politik , dan manipulasi informasi. Banyak kasus selebriti yang wajahnya dipotong, atau bahkan suaranya dipalsukan, dalam iklan atau konten sensitif telah menimbulkan kekhawatiran tentang keandalan apa yang mereka lihat secara online.

Menanggapi gelombang ini, platform media sosial secara kolektif mencari cara untuk bereaksi. Meta telah mengumumkan rencana untuk memberi label pada video yang dibuat oleh kecerdasan buatan sebagai "buatan AI," sementara TikTok telah menambahkan opsi "buatan AI" ke bagian pelaporan pelanggarannya, sehingga memudahkan pengguna untuk melaporkan video palsu. Bagi YouTube, ini adalah langkah proaktif dalam mengatasi gelombang deepfake yang meluas dan sulit dikendalikan.

Peluncuran fitur ini juga menunjukkan upaya YouTube untuk mendefinisikan ulang standar moderasi konten di era AI. Platform ini tidak hanya menangani video yang melanggar hak cipta, tetapi juga menciptakan mekanisme untuk memberikan suara kepada kreator dalam melindungi identitas digital mereka.

Beberapa pakar media melihat ini sebagai tanda bahwa perusahaan teknologi telah mulai beralih dari "beradaptasi dengan AI" menjadi "mengendalikan dampak AI."

Namun, menerapkan alat deteksi deepfake dalam skala global bukanlah hal yang mudah. Perbedaan dalam undang-undang perlindungan data antar negara dan kompleksitas dalam menentukan apa yang termasuk konten palsu yang berbahaya akan menjadi tantangan bagi YouTube dalam proses implementasinya.

Garis batas antara kreativitas dan sensor

Perjuangan melawan deepfake memunculkan pertanyaan tentang batasan pembuatan konten. Banyak produsen video khawatir bahwa alat deteksi otomatis dapat memengaruhi produk berbasis AI yang sah, seperti film pendek atau video ilustrasi. Seiring dengan semakin kaburnya batasan antara kreativitas dan pemalsuan, platform harus menemukan cara untuk melindungi pengguna tanpa merusak kebebasan berkreasi.

YouTube menegaskan bahwa alat pengenalan tersebut tidak dimaksudkan untuk membatasi kreativitas, melainkan untuk melindungi hak mengontrol citra pribadi. Namun, para ahli mengatakan bahwa menentukan apa yang berbahaya dan apa yang merupakan kreasi yang sah akan tetap menjadi tantangan besar.

Persaingan antara teknologi untuk menciptakan barang palsu dan teknologi untuk mendeteksinya kemungkinan akan terus berlanjut, dan alat baru YouTube ini hanyalah langkah kecil dalam upaya untuk mempertahankan keaslian di era virtual yang semakin berkembang.

THANH THU

Sumber: https://tuoitre.vn/youtube-tung-cong-cu-likeness-detection-bao-ve-hinh-anh-va-giong-noi-truoc-deepfake-20251023163915973.htm