Nový australský nástroj umělé inteligence bojuje proti škodlivým deepfake obrázkům.

Austrálie vyvíjí Silverer, nástroj umělé inteligence, který má pomoci předcházet deepfakeům a chránit osobní údaje. V současné době je ve fázi testování v boji proti kyberkriminalitě.

Podle zpravodaje Vietnamské tiskové agentury v Sydney spolupracují Monashova univerzita a australská federální policie (AFP) na vývoji průlomového nového nástroje umělé inteligence (AI), jehož cílem je zpomalit a zabránit zločincům ve vytváření škodlivých deepfake obrázků a materiálu zobrazujícího zneužívání dětí pomocí AI.

Nástroj s názvem Silverer je produktem Laboratoře umělé inteligence pro vymáhání práva a bezpečnost komunity (AiLECS) – strategické výzkumné spolupráce mezi AFP a Monash University, jejímž cílem je využití umělé inteligence k řešení komplexních bezpečnostních a právních výzev. V současné době je nástroj ve fázi testování a je vyvíjen pod vedením doktorandky Elizabeth Perryové na Monash University.

Podle Monash University projekt využívá v tomto novém nástroji jako klíčovou techniku ​​„otravování dat“. Tato technika zahrnuje nenápadné pozměňování online zdrojových dat, což modelům umělé inteligence a strojového učení (ML) výrazně ztěžuje vytváření, manipulaci a zneužívání obrázků nebo videí .

Protože nástroje umělé inteligence vyžadují velké množství zdrojových dat, otrava dat by způsobila, že by modely produkovaly nepřesné, zkreslené nebo poškozené výsledky, což by usnadnilo odhalování falešných obrázků nebo videí vytvořených zločinci.

Student Perry vysvětlil, že uživatelé mohou pomocí Silvereru upravovat obrázky před jejich nahráním na sociální média nebo internet. Tím by se upravily pixely, aby se oklamaly modely umělé inteligence, což by způsobilo zkreslení výstupu, plný „deformací“ nebo úplnou nerozpoznatelnost.

Docent Campbell Wilson, spoluředitel AiLECS a expert na digitální forenzní vědu, poznamenává, že vytváření falešných a škodlivých obrázků pomocí open-source technologií se stává stále vážnějším problémem kvůli jejich snadnému použití.

Agentura AFP zaznamenala nárůst materiálu zobrazujícího zneužívání dětí vytvořeného pomocí umělé inteligence, jelikož zločinci zneužívají tuto technologii k produkci a sdílení velkého množství falešné pornografie online.

Univerzita Monash uvedla, že celkovým cílem projektu Silverer je vyvinout snadno použitelnou technologii pro Australany, kteří chtějí chránit svá osobní data na sociálních sítích. Pilotní verze nástroje se v současné době zvažuje pro interní použití v rámci AFP.

(VNA/Vietnam+)

Zdroj: https://www.vietnamplus.vn/cong-cu-ai-moi-cua-australia-chong-hinh-anh-deepfake-doc-hai-post1076017.vnp