Australia dezvoltă un instrument pentru a expune vocile false și deepfake

Tehnologia RAIS ajută la detectarea audio falsă cu o precizie ridicată, chiar dacă formele de atac deepfake continuă să evolueze.

Australia dezvoltă o tehnologie de inteligență artificială pentru a detecta sunetele false cu o precizie aproape absolută - Fotografie ilustrativă: REUTERS

Oamenii de știință de la Organizația de Cercetare Științifică și Industrială a Commonwealth-ului (CSIRO), Universitatea Federation din Australia și Universitatea RMIT au dezvoltat cu succes o metodă de detectare a deepfake-urilor audio cu o precizie și o adaptabilitate remarcabile.

Noua tehnică, numită Rehearsal with Auxiliary-Informed Sampling (RAIS), este special concepută pentru a detecta audio deepfake, o amenințare tot mai mare în criminalitatea cibernetică, cu riscuri precum ocolirea sistemelor de autentificare biometrică vocală, uzurparea identității și răspândirea de dezinformare, a declarat CSIRO.

Tehnicile RAIS nu numai că determină autenticitatea unei piste audio, dar asigură și menținerea unei performanțe ridicate, chiar și pe măsură ce atacurile de spoofing continuă să evolueze și să se schimbe.

Dr. Kristen Moore, co-autoare a studiului la Data61 - unitatea de date și date digitale a CSIRO, a declarat că obiectivul echipei este de a dezvolta un sistem de detectare care să poată actualiza noile mostre de deepfake-uri fără a fi nevoie să reantreneze modelul de la zero, evitând fenomenul în care modelul uită datele vechi în timpul reglajelor fine.

RAIS rezolvă această problemă prin selectarea și stocarea automată a unui set mic și divers de deepfake-uri anterioare, inclusiv funcții audio ascunse, pentru a ajuta inteligența artificială să învețe noi tipuri de deepfake-uri, păstrând în același timp cunoștințele despre cele vechi, a explicat Moore.

Mai exact, RAIS funcționează pe baza unui proces inteligent de selecție care generează „etichete auxiliare” pentru fiecare eșantion audio. Combinarea acestor etichete auxiliare, în loc să fie etichetate pur și simplu ca „reale” sau „false”, asigură un set de date de antrenament bogat și divers. Acest mecanism îmbunătățește semnificativ capacitatea sistemului de a-și aminti și de a se adapta în timp.

Conform CSIRO, în timpul testelor, RAIS a depășit alte metode, cu o rată medie de eroare de 1,95% pe parcursul a cinci teste consecutive. Codul sursă pentru această tehnică a fost pus la dispoziție pe GitHub - un site specializat în stocarea online a codului sursă bazat pe platforma Git.

Înapoi la subiect

VNA

Sursă: https://tuoitre.vn/uc-phat-trien-cong-cu-vach-tran-giong-noi-gia-bang-deepfake-20251112092232468.htm