Ausztrália új mesterséges intelligencia eszköze küzd a káros deepfake képek ellen

Egy sydney-i VNA tudósító szerint a Monash Egyetem és az Ausztrál Szövetségi Rendőrség (AFP) együttműködik egy úttörő új mesterséges intelligencia (MI) eszköz fejlesztésében, amely lelassítja és megakadályozza a bűnözőket abban, hogy káros deepfake képeket és gyermekbántalmazási anyagokat hozzanak létre mesterséges intelligencia segítségével.

A Silverer nevű eszköz az AFP és a Monash Egyetem közötti stratégiai kutatási együttműködés, az AI Lab for Law Enforcement and Community Safety (AiLECS) terméke, amely a mesterséges intelligenciát alkalmazza összetett bűnüldözési és biztonsági kihívásokra. Jelenleg kísérleti fázisban lévő eszközt Elizabeth Perry, a Monash Egyetem PhD-hallgatójának vezetésével fejlesztik.

A Monash Egyetem szerint a projekt az „adatmérgezés” nevű technikát használja az új eszköz egyik fő technikájaként. Ez a technika az online forrásadatok finom módosítását foglalja magában, ami jelentősen megnehezíti a mesterséges intelligencia és a gépi tanulás (ML) modellek számára a képek vagy videók létrehozását, manipulálását és visszaélésszerű felhasználását.

Mivel a mesterséges intelligencia eszközei nagy mennyiségű forrásadatot igényelnek, az adatmérgezés pontatlan, torz vagy sérült eredményeket eredményez a modellben, ami megkönnyíti a bűnözők által létrehozott hamis képek vagy videók észlelését.

Perry, PhD hallgató, elmagyarázza, hogy a felhasználók a Silverer segítségével szerkeszthetik a képeiket, mielőtt feltöltenék őket a közösségi médiába vagy az internetre. Ez megváltoztatja a pixeleket, hogy megtévessze a mesterséges intelligencia modelljét, így a kimenet torz, „torzulásokkal” borított vagy teljesen felismerhetetlen lesz.

Campbell Wilson docens – az AiLECS társigazgatója és digitális forenzikai szakértő – szerint a hamis és rosszindulatú képek létrehozása nyílt forráskódú technológia segítségével egyre komolyabb problémává válik a könnyű használhatóság miatt.

Az AFP dokumentálta a mesterséges intelligencia által generált gyermekbántalmazási anyagok számának növekedését, mivel a bűnözők kihasználják a technológiát nagy mennyiségű hamis pornográfia előállítására és online megosztására.

A Monash Egyetem közölte, hogy a Silverer projekt átfogó célja egy könnyen használható technológia fejlesztése az ausztrálok számára, akik meg akarják védeni személyes adataikat a közösségi médiában. Az eszköz kísérleti verziójának belső használatra szánt verzióját jelenleg az AFP fontolgatja.

(TTXVN/Vietnam+)

Forrás: https://www.vietnamplus.vn/cong-cu-ai-moi-cua-australia-chong-hinh-anh-deepfake-doc-hai-post1076017.vnp