Australia mengembangkan alat untuk mengungkap suara deepfake palsu

Teknologi RAIS membantu mendeteksi audio palsu dengan akurasi tinggi, bahkan saat bentuk serangan deepfake terus berkembang.

Australia kembangkan teknologi AI untuk deteksi audio deepfake dengan akurasi hampir absolut - Foto ilustrasi: REUTERS

Para ilmuwan di Commonwealth Scientific and Industrial Research Organisation (CSIRO), Federation University Australia, dan RMIT University telah berhasil mengembangkan metode untuk mendeteksi audio deepfake dengan akurasi dan kemampuan beradaptasi yang luar biasa.

Teknik baru, yang disebut Rehearsal with Auxiliary-Informed Sampling (RAIS), dirancang khusus untuk mendeteksi audio deepfake, ancaman yang berkembang dalam kejahatan dunia maya, dengan risiko termasuk menerobos sistem autentikasi biometrik suara, peniruan identitas, dan penyebaran informasi yang salah, kata CSIRO.

Teknik RAIS tidak hanya menentukan keaslian trek audio, tetapi juga memastikan kinerja tinggi tetap dipertahankan, bahkan saat serangan spoofing terus berkembang dan berubah.

Dr Kristen Moore, salah satu penulis studi di Data61 - unit data dan digital CSIRO, menyampaikan bahwa tujuan timnya adalah untuk mengembangkan sistem deteksi yang dapat memperbarui sampel deepfake baru tanpa harus melatih ulang model dari awal, menghindari fenomena model yang melupakan data lama saat melakukan penyempurnaan.

RAIS memecahkan masalah ini dengan secara otomatis memilih dan menyimpan sekumpulan kecil dan beragam deepfake sebelumnya, termasuk fitur audio tersembunyi, untuk membantu AI mempelajari jenis deepfake baru sambil mempertahankan pengetahuan tentang jenis deepfake lama, jelas Moore.

Secara spesifik, RAIS bekerja berdasarkan proses seleksi cerdas yang menghasilkan "label tambahan" untuk setiap sampel audio. Menggabungkan label tambahan ini, alih-alih hanya melabelinya sebagai "asli" atau "palsu", memastikan kumpulan data pelatihan yang kaya dan beragam. Mekanisme ini secara signifikan meningkatkan kemampuan sistem untuk mengingat dan beradaptasi seiring waktu.

Menurut CSIRO, selama pengujian, RAIS mengungguli metode lain dengan tingkat kesalahan rata-rata 1,95% dalam lima pengujian berturut-turut. Kode sumber untuk teknik ini telah tersedia di GitHub - situs yang mengkhususkan diri dalam penyimpanan kode sumber daring berbasis platform Git.

Kembali ke topik

VNA

Sumber: https://tuoitre.vn/uc-phat-trien-cong-cu-vach-tran-giong-noi-gia-bang-deepfake-20251112092232468.htm