Nový australský nástroj umělé inteligence bojuje proti škodlivým deepfake obrázkům

Podle korespondenta VNA v Sydney spolupracují Monash University a Australská federální policie (AFP) na vývoji průlomového nového nástroje umělé inteligence (AI), který zpomalí a zabrání zločincům ve vytváření škodlivých deepfake obrázků a materiálu zobrazujícího zneužívání dětí pomocí AI.

Nástroj s názvem Silverer je produktem AI Lab for Law Enforcement and Community Safety (AiLECS), což je strategická výzkumná spolupráce mezi AFP a Monash University, která aplikuje umělou inteligenci na komplexní výzvy v oblasti vymáhání práva a bezpečnosti. Nástroj je v současné době v pilotní fázi vyvíjen pod vedením doktorandky Monash University Elizabeth Perryové.

Podle Monash University projekt využívá v tomto novém nástroji jako klíčovou techniku zvanou „otrava dat“. Tato technika zahrnuje nenápadné pozměňování online zdrojových dat, což modelům umělé inteligence a strojového učení (ML) výrazně ztěžuje vytváření, manipulaci a zneužívání obrázků nebo videí .

Vzhledem k tomu, že nástroje umělé inteligence vyžadují velké množství zdrojových dat, otrava dat způsobuje, že model produkuje nepřesné, zkreslené nebo poškozené výsledky, což usnadňuje odhalování falešných obrázků nebo videí vytvořených zločinci.

Perry, doktorand, vysvětluje, že uživatelé mohou pomocí Silvereru upravovat obrázky před jejich nahráním na sociální média nebo internet. Tím se změní pixely, aby se oklamal model umělé inteligence, a jejich výstup bude zkreslený, pokrytý „deformacemi“ nebo zcela nerozpoznatelný.

Docent Campbell Wilson – spoluředitel AiLECS a expert na digitální forenzní vědu – uvedl, že vytváření falešných a škodlivých obrázků pomocí open source technologií se stává stále vážnějším problémem kvůli jejich snadnému použití.

Agentura AFP zdokumentovala nárůst materiálu o zneužívání dětí generovaného umělou inteligencí, jelikož zločinci zneužívají tuto technologii k produkci a sdílení velkého množství falešné pornografie online.

Univerzita Monash uvedla, že celkovým cílem projektu Silverer je vyvinout snadno použitelnou technologii pro Australany, kteří chtějí chránit svá osobní data na sociálních sítích. Pilotní verze nástroje se v současné době zvažuje pro interní použití v rámci AFP.

(TTXVN/Vietnam+)

Zdroj: https://www.vietnamplus.vn/cong-cu-ai-moi-cua-australia-chong-hinh-anh-deepfake-doc-hai-post1076017.vnp