Australias nye AI-verktøy bekjemper skadelige deepfake-bilder

Australia utvikler Silverer, et AI-verktøy som bidrar til å forhindre deepfakes og beskytte personopplysninger, som er i testfasen for å bekjempe nettkriminalitet.

Ifølge en VNA-korrespondent i Sydney samarbeider Monash University og det australske føderale politiet (AFP) om å utvikle et banebrytende nytt verktøy for kunstig intelligens (KI) for å bremse og forhindre kriminelle i å lage skadelige deepfake-bilder og overgrepsmateriale for barn ved hjelp av KI.

Verktøyet, kalt Silverer, er et produkt fra AI Lab for Law Enforcement and Community Safety (AiLECS), et strategisk forskningssamarbeid mellom AFP og Monash University som anvender AI på komplekse utfordringer innen rettshåndhevelse og sikkerhet. Verktøyet er for tiden i pilotfasen og utvikles under ledelse av doktorgradsstudent Elizabeth Perry ved Monash University.

Ifølge Monash University bruker prosjektet en teknikk kalt «Data Poisoning» som en kjerneteknikk i dette nye verktøyet. Denne teknikken innebærer subtil endring av nettbaserte kildedata, noe som gjør det betydelig vanskeligere for AI- og maskinlæringsmodeller (ML) å lage, manipulere og misbruke bilder eller videoer .

Siden AI-verktøy krever store mengder kildedata, fører dataforgiftning til at modellen produserer unøyaktige, skjeve eller korrupte resultater, noe som gjør det enklere å oppdage falske bilder eller videoer laget av kriminelle.

Perry, en doktorgradsstudent, forklarer at brukere kan bruke Silverer til å redigere bilder før de lastes opp til sosiale medier eller internett. Dette vil endre pikslene for å lure AI-modellen, slik at resultatet blir forvrengt, dekket av «forvrengninger» eller fullstendig ugjenkjennelig.

Førsteamanuensis Campbell Wilson – meddirektør i AiLECS og ekspert på digital rettsmedisin – sa at produksjonen av falske og ondsinnede bilder ved hjelp av åpen kildekode-teknologi var i ferd med å bli et mer alvorlig problem på grunn av brukervennligheten.

AFP har dokumentert en økning i AI-generert materiale med overgrep mot barn, ettersom kriminelle utnytter teknologien til å produsere og dele store mengder falsk pornografi på nettet.

Monash University sa at det overordnede målet med Silverer-prosjektet er å utvikle brukervennlig teknologi for australiere som ønsker å beskytte sine personopplysninger på sosiale medier. En pilotversjon av verktøyet vurderes for tiden for intern bruk i AFP.

(TTXVN/Vietnam+)

Kilde: https://www.vietnamplus.vn/cong-cu-ai-moi-cua-australia-chong-hinh-anh-deepfake-doc-hai-post1076017.vnp