Austrálie vyvíjí nástroj k odhalování falešných deepfake hlasů

Technologie RAIS pomáhá detekovat falešný zvuk s vysokou přesností, a to i přes neustálý vývoj forem deepfake útoků.

Austrálie vyvíjí technologii umělé inteligence pro detekci deepfake zvuku s téměř absolutní přesností - Ilustrační foto: REUTERS

Vědci z Organizace pro vědecký a průmyslový výzkum Commonwealthu (CSIRO), Federation University Australia a RMIT University úspěšně vyvinuli metodu pro detekci zvukových deepfakes s vynikající přesností a přizpůsobivostí.

Nová technika s názvem Rehearsal with Auxiliary-Informed Sampling (RAIS) je speciálně navržena k detekci deepfake zvuku, což je rostoucí hrozba v kyberkriminalitě. Mezi rizika patří obcházení systémů biometrické autentizace hlasu, vydávání se za jinou osobu a šíření dezinformací, uvedl CSIRO.

Techniky RAIS nejen určují autenticitu zvukové stopy, ale také zajišťují zachování vysokého výkonu, a to i v době, kdy se útoky typu spoofing neustále vyvíjejí a mění.

Dr. Kristen Moore, spoluautorka studie z Data61 - datové a digitální jednotky CSIRO, uvedla, že cílem týmu je vyvinout detekční systém, který dokáže aktualizovat nové vzorky deepfake, aniž by bylo nutné model přetrénovat od nuly, a tím se zabrání jevu, kdy model při jemném doladění zapomíná stará data.

RAIS tento problém řeší automatickým výběrem a ukládáním malé, rozmanité sady předchozích deepfaků, včetně skrytých zvukových prvků, aby pomohl umělé inteligenci naučit se nové typy deepfaků a zároveň si zachovat znalosti o těch starých, vysvětlil Moore.

Konkrétně RAIS funguje na základě inteligentního procesu výběru, který generuje „pomocné štítky“ pro každý zvukový vzorek. Kombinace těchto pomocných štítků, namísto jejich pouhého označování jako „skutečných“ nebo „falešných“, zajišťuje bohatou a rozmanitou trénovací datovou sadu. Tento mechanismus výrazně zlepšuje schopnost systému pamatovat si a adaptovat se v průběhu času.

Podle CSIRO RAIS během testování překonal ostatní metody s průměrnou mírou chyb 1,95 % v pěti po sobě jdoucích testech. Zdrojový kód této techniky byl zpřístupněn na GitHubu – webu specializujícím se na online ukládání zdrojového kódu založeném na platformě Git.

Zpět k tématu

VNA

Zdroj: https://tuoitre.vn/uc-phat-trien-cong-cu-vach-tran-giong-noi-gia-bang-deepfake-20251112092232468.htm