Noul instrument de inteligență artificială din Australia combate imaginile deepfake dăunătoare

Potrivit unui corespondent VNA din Sydney, Universitatea Monash și Poliția Federală Australiană (AFP) colaborează pentru a dezvolta un instrument inovator de inteligență artificială (IA) menit să încetinească și să împiedice infractorii să creeze imagini false dăunătoare și materiale care abuzează copiii folosind IA.

Instrumentul, numit Silverer, este un produs al Laboratorului de Inteligență Artificială pentru Aplicarea Legii și Siguranța Comunității (AiLECS), o colaborare strategică de cercetare între AFP și Universitatea Monash, care aplică inteligența artificială la provocări complexe legate de aplicarea legii și securitate. În prezent, aflat în faza pilot, instrumentul este dezvoltat sub conducerea doctorandei Elizabeth Perry de la Universitatea Monash.

Conform Universității Monash, proiectul folosește o tehnică numită „Data Poisoning” (otrăvirea datelor) ca tehnică centrală în cadrul acestui nou instrument. Această tehnică implică modificarea subtilă a datelor sursă online, ceea ce face semnificativ mai dificilă crearea, manipularea și utilizarea abuzivă a imaginilor sau videoclipurilor de către modelele de inteligență artificială și învățare automată (ML).

Întrucât instrumentele de inteligență artificială necesită cantități mari de date sursă, otrăvirea datelor face ca modelul să producă rezultate inexacte, distorsionate sau corupte, facilitând detectarea imaginilor sau videoclipurilor false create de infractori.

Perry, doctorand, explică faptul că utilizatorii pot folosi Silverer pentru a edita imagini înainte de a le încărca pe rețelele de socializare sau pe internet. Acest lucru va modifica pixelii pentru a păcăli modelul de inteligență artificială, făcând ca rezultatul să fie distorsionat, acoperit de „distorsiuni” sau complet de nerecunoscut.

Profesorul asociat Campbell Wilson - co-director al AiLECS și expert în criminalistică digitală - a declarat că crearea de imagini false și rău intenționate folosind tehnologia open source devine o problemă mai serioasă datorită ușurinței în utilizare.

AFP a documentat o creștere a materialelor cu abuzuri asupra copiilor generate de inteligența artificială, deoarece infractorii exploatează tehnologia pentru a produce și distribui online cantități mari de pornografie falsă.

Universitatea Monash a declarat că obiectivul general al proiectului Silverer este de a dezvolta o tehnologie ușor de utilizat pentru australienii care doresc să își protejeze datele personale pe rețelele de socializare. O versiune pilot a instrumentului este în prezent luată în considerare pentru utilizare internă în cadrul AFP./.

(TTXVN/Vietnam+)

Sursă: https://www.vietnamplus.vn/cong-cu-ai-moi-cua-australia-chong-hinh-anh-deepfake-doc-hai-post1076017.vnp