Australia membangunkan alat untuk mendedahkan suara palsu palsu

Teknologi RAIS membantu mengesan audio palsu dengan ketepatan yang tinggi, walaupun bentuk serangan palsu dalam terus berkembang.

Australia membangunkan teknologi AI untuk mengesan audio palsu dalam dengan ketepatan hampir mutlak - Foto ilustrasi: REUTERS

Para saintis di Commonwealth Scientific and Industrial Research Organization (CSIRO), Federation University Australia dan RMIT University telah berjaya membangunkan kaedah untuk mengesan audio deepfakes dengan ketepatan dan kebolehsuaian yang luar biasa.

Teknik baharu itu, dipanggil Rehearsal with Auxiliary-Informed Sampling (RAIS), direka khusus untuk mengesan audio deepfake, ancaman yang semakin meningkat dalam jenayah siber, dengan risiko termasuk memintas sistem pengesahan biometrik suara, penyamaran dan penyebaran maklumat salah, kata CSIRO.

Teknik RAIS bukan sahaja menentukan ketulenan trek audio, tetapi juga memastikan prestasi tinggi dikekalkan, walaupun serangan spoofing terus berkembang dan berubah.

Dr Kristen Moore, pengarang bersama kajian di Data61 - unit data dan digital CSIRO, berkongsi bahawa matlamat pasukan itu adalah untuk membangunkan sistem pengesanan yang boleh mengemas kini sampel deepfake baharu tanpa perlu melatih semula model dari awal, mengelakkan fenomena model melupakan data lama semasa penalaan halus.

RAIS menyelesaikan masalah ini secara automatik dengan memilih dan menyimpan set kecil, pelbagai jenis deepfake sebelumnya, termasuk ciri audio tersembunyi, untuk membantu AI mempelajari jenis deepfake baharu sambil mengekalkan pengetahuan tentang yang lama, jelas Moore.

Khususnya, RAIS berfungsi berdasarkan proses pemilihan pintar yang menghasilkan "label tambahan" untuk setiap sampel audio. Menggabungkan label tambahan ini, dan bukannya hanya melabelkannya sebagai "sebenar" atau "palsu," memastikan set data latihan yang kaya dan pelbagai. Mekanisme ini meningkatkan keupayaan sistem untuk mengingat dan menyesuaikan dengan ketara dari semasa ke semasa.

Menurut CSIRO, semasa ujian, RAIS mengatasi kaedah lain dengan purata kadar ralat 1.95% merentas lima ujian berturut-turut. Kod sumber untuk teknik ini telah disediakan di GitHub - tapak yang mengkhusus dalam penyimpanan kod sumber dalam talian berdasarkan platform Git.

Kembali ke topik

VNA

Sumber: https://tuoitre.vn/uc-phat-trien-cong-cu-vach-tran-giong-noi-gia-bang-deepfake-20251112092232468.htm