Ifølge Vietnam News Agency-korrespondenten i Sydney samarbeider Monash University og det australske føderale politiet (AFP) om å utvikle et banebrytende nytt verktøy for kunstig intelligens (KI) som tar sikte på å bremse og forhindre kriminelle i å lage ondsinnede deepfake-bilder og overgrepsmateriale for barn ved hjelp av KI.
Verktøyet, kalt Silverer, er et produkt av AI for Law Enforcement and Community Safety Lab (AiLECS) – et strategisk forskningssamarbeid mellom AFP og Monash University som har som mål å bruke AI til å håndtere komplekse sikkerhets- og juridiske utfordringer. For tiden er verktøyet i testfasen og utvikles under ledelse av doktorgradsstudent Elizabeth Perry ved Monash University.
Ifølge Monash University bruker prosjektet «dataforgiftning» som en kjerneteknikk i dette nye verktøyet. Denne teknikken innebærer subtil endring av nettbaserte kildedata, noe som gjør det betydelig vanskeligere for AI- og maskinlæringsmodeller (ML) å lage, manipulere og misbruke bilder eller videoer .
Fordi AI-verktøy krever store mengder kildedata, vil dataforgiftning føre til at modellene produserer unøyaktige, skjeve eller korrupte resultater, noe som gjør det enklere å oppdage falske bilder eller videoer laget av kriminelle.
Forskningsstudent Perry forklarte at brukere kan bruke Silverer til å redigere bilder før de lastes opp til sosiale medier eller internett. Dette ville endre piksler for å lure AI-modeller, noe som ville føre til at resultatet ble forvrengt, fullt av «forvrengninger» eller fullstendig ugjenkjennelig.
Førsteamanuensis Campbell Wilson, meddirektør i AiLECS og ekspert på digital rettsmedisin, bemerker at det å lage falske og ondsinnede bilder ved hjelp av åpen kildekode-teknologi blir et mer alvorlig problem på grunn av brukervennligheten.
AFP har registrert en økning i materiale med overgrep mot barn laget med kunstig intelligens, ettersom kriminelle utnytter teknologien til å produsere og dele store mengder falsk pornografi på nettet.
Monash University uttalte at det overordnede målet med Project Silverer er å utvikle en brukervennlig teknologi for australiere som ønsker å beskytte sine personopplysninger på sosiale medier. En pilotversjon av verktøyet vurderes for tiden for intern bruk i AFP.
Kilde: https://www.vietnamplus.vn/cong-cu-ai-moi-cua-australia-chong-hinh-anh-deepfake-doc-hai-post1076017.vnp
Kommentar (0)