Australia utvikler verktøy for å avsløre falske deepfake-stemmer

RAIS-teknologi bidrar til å oppdage falsk lyd med høy nøyaktighet, selv om former for deepfake-angrep fortsetter å utvikle seg.

Australia utvikler AI-teknologi for å oppdage deepfake-lyd med nesten absolutt nøyaktighet – Illustrasjonsfoto: REUTERS

Forskere ved Commonwealth Scientific and Industrial Research Organisation (CSIRO), Federation University Australia og RMIT University har lykkes med å utvikle en metode for å oppdage deepfakes i lyd med enestående nøyaktighet og tilpasningsevne.

Den nye teknikken, kalt Rehearsal with Auxiliary-Informed Sampling (RAIS), er spesielt utviklet for å oppdage deepfake-lyd, en voksende trussel innen nettkriminalitet, med risikoer som inkluderer omgåelse av stemmebiometriske autentiseringssystemer, etterligning av identitet og spredning av feilinformasjon, sa CSIRO.

RAIS-teknikker bestemmer ikke bare autentisiteten til et lydspor, men sikrer også at høy ytelse opprettholdes, selv om forfalskningsangrep fortsetter å utvikle seg og endre seg.

Dr. Kristen Moore, medforfatter av studien ved Data61 – CSIROs data- og digitalenhet, fortalte at teamets mål er å utvikle et deteksjonssystem som kan oppdatere nye deepfake-prøver uten å måtte trene modellen på nytt fra bunnen av, og dermed unngå fenomenet at modellen glemmer gamle data ved finjustering.

RAIS løser dette problemet ved automatisk å velge og lagre et lite, mangfoldig sett med tidligere deepfakes, inkludert skjulte lydfunksjoner, for å hjelpe AI-en med å lære nye deepfakes-typer samtidig som den bevarer kunnskapen om gamle, forklarte Moore.

Mer spesifikt fungerer RAIS basert på en intelligent utvalgsprosess som genererer «hjelpeetiketter» for hver lydprøve. Ved å kombinere disse hjelpeetikettene, i stedet for å bare merke dem som «ekte» eller «falske», sikres et rikt og mangfoldig treningsdatasett. Denne mekanismen forbedrer systemets evne til å huske og tilpasse seg over tid betydelig.

Ifølge CSIRO overgikk RAIS andre metoder under testing med en gjennomsnittlig feilrate på 1,95 % på tvers av fem påfølgende tester. Kildekoden for denne teknikken er gjort tilgjengelig på GitHub – et nettsted som spesialiserer seg på lagring av kildekode på nett basert på Git-plattformen.

Tilbake til emnet

VNA

Kilde: https://tuoitre.vn/uc-phat-trien-cong-cu-vach-tran-giong-noi-gia-bang-deepfake-20251112092232468.htm