Australiens nya AI-verktyg bekämpar skadliga djupförfalskningar av bilder

Australien utvecklar Silverer, ett AI-verktyg som hjälper till att förhindra djupförfalskningar och skydda personuppgifter, vilket är i testfasen för att bekämpa cyberbrottslighet.

Enligt en VNA-korrespondent i Sydney samarbetar Monash University och den australiska federala polisen (AFP) för att utveckla ett banbrytande nytt verktyg för artificiell intelligens (AI) för att bromsa och förhindra brottslingar från att skapa skadliga djupförfalskningar och material med barnmisshandel med hjälp av AI.

Verktyget, kallat Silverer, är en produkt från AI Lab for Law Enforcement and Community Safety (AiLECS), ett strategiskt forskningssamarbete mellan AFP och Monash University som tillämpar AI på komplexa brottsbekämpnings- och säkerhetsutmaningar. Verktyget är för närvarande i pilotfas och utvecklas under ledning av doktoranden Elizabeth Perry vid Monash University.

Enligt Monash University använder projektet en teknik som kallas ”Data Poisoning” som en kärnteknik i detta nya verktyg. Denna teknik innebär att man subtilt ändrar online-källdata, vilket gör det betydligt svårare för AI- och maskininlärningsmodeller (ML) att skapa, manipulera och missbruka bilder eller videor .

Eftersom AI-verktyg kräver stora mängder källdata, orsakar dataförgiftning att modellen producerar felaktiga, snedvridna eller korrupta resultat, vilket gör det lättare att upptäcka falska bilder eller videor skapade av brottslingar.

Perry, en doktorand, förklarar att användare kan använda Silverer för att redigera bilder innan de laddas upp till sociala medier eller internet. Detta kommer att ändra pixlarna för att lura AI-modellen, vilket gör att deras utdata blir förvrängd, täckt av "förvrängningar" eller helt oigenkännlig.

Docent Campbell Wilson – meddirektör för AiLECS och expert på digital forensik – sa att skapandet av falska och skadliga bilder med hjälp av öppen källkodsteknik blev ett allt allvarligare problem på grund av dess enkla användning.

AFP har dokumenterat en ökning av AI-genererat material med övergrepp mot barn, då brottslingar utnyttjar tekniken för att producera och dela stora mängder falsk pornografi online.

Monash University sade att det övergripande målet med Silverer-projektet är att utveckla lättanvänd teknik för australier som vill skydda sina personuppgifter på sociala medier. En pilotversion av verktyget övervägs för närvarande för intern användning inom AFP.

(TTXVN/Vietnam+)

Källa: https://www.vietnamplus.vn/cong-cu-ai-moi-cua-australia-chong-hinh-anh-deepfake-doc-hai-post1076017.vnp