Australien utvecklar verktyg för att avslöja falska deepfake-röster

RAIS-tekniken hjälper till att upptäcka falskt ljud med hög noggrannhet, även om former av djupfake-attacker fortsätter att utvecklas.

Australien utvecklar AI-teknik för att upptäcka djupförfalskat ljud med nästan absolut noggrannhet - Illustrationsfoto: REUTERS

Forskare vid Commonwealth Scientific and Industrial Research Organisation (CSIRO), Federation University Australia och RMIT University har framgångsrikt utvecklat en metod för att upptäcka ljuddjupförfalskningar med enastående noggrannhet och anpassningsförmåga.

Den nya tekniken, kallad Rehearsal with Auxiliary-Informed Sampling (RAIS), är specifikt utformad för att upptäcka djupförfalskade ljud, ett växande hot inom cyberbrottslighet, med risker inklusive att kringgå röstbiometriska autentiseringssystem, personifiering och spridning av felinformation, sa CSIRO.

RAIS-tekniker avgör inte bara ett ljudspårs äkthet, utan säkerställer också att hög prestanda bibehålls, även när förfalskningsattacker fortsätter att utvecklas och förändras.

Dr Kristen Moore, medförfattare till studien vid Data61 - CSIRO:s data- och digitalenhet, berättade att teamets mål är att utveckla ett detekteringssystem som kan uppdatera nya deepfake-prover utan att behöva omträna modellen från grunden, vilket undviker fenomenet att modellen glömmer gamla data vid finjustering.

RAIS löser detta problem genom att automatiskt välja och lagra en liten, varierad uppsättning tidigare deepfakes, inklusive dolda ljudfunktioner, för att hjälpa AI:n att lära sig nya deepfakes-typer samtidigt som kunskapen om gamla bevaras, förklarade Moore.

Mer specifikt fungerar RAIS baserat på en intelligent urvalsprocess som genererar "hjälpetiketter" för varje ljudprov. Genom att kombinera dessa hjälpetiketter, snarare än att bara märka dem som "riktiga" eller "falska", säkerställs en rik och mångsidig träningsdatauppsättning. Denna mekanism förbättrar avsevärt systemets förmåga att komma ihåg och anpassa sig över tid.

Enligt CSIRO överträffade RAIS andra metoder under testning med en genomsnittlig felfrekvens på 1,95 % över fem på varandra följande tester. Källkoden för denna teknik har gjorts tillgänglig på GitHub - en webbplats som specialiserar sig på lagring av källkod online baserad på Git-plattformen.

Tillbaka till ämnet

VNA

Källa: https://tuoitre.vn/uc-phat-trien-cong-cu-vach-tran-giong-noi-gia-bang-deepfake-20251112092232468.htm