Australiës nieuwe AI-tool bestrijdt schadelijke deepfake-afbeeldingen

Volgens een VNA-correspondent in Sydney werken Monash University en de Australische federale politie (AFP) samen aan de ontwikkeling van een baanbrekende nieuwe tool op het gebied van kunstmatige intelligentie (AI). Daarmee wordt voorkomen en afgeremd dat criminelen schadelijke deepfake-afbeeldingen en kindermisbruikmateriaal maken met behulp van AI.

De tool, Silverer genaamd, is een product van het AI Lab for Law Enforcement and Community Safety (AiLECS), een strategische onderzoekssamenwerking tussen de AFP en Monash University die AI toepast op complexe uitdagingen op het gebied van wetshandhaving en beveiliging. De tool bevindt zich momenteel in de pilotfase en wordt ontwikkeld onder leiding van promovendus Elizabeth Perry van Monash University.

Volgens Monash University maakt het project gebruik van een techniek genaamd "Data Poisoning" als kerntechniek in deze nieuwe tool. Deze techniek houdt in dat online brongegevens subtiel worden gewijzigd, waardoor het voor AI- en Machine Learning (ML)-modellen aanzienlijk moeilijker wordt om afbeeldingen of video's te maken, te manipuleren en te misbruiken.

Omdat AI-tools grote hoeveelheden brongegevens nodig hebben, zorgt datavergiftiging ervoor dat het model onnauwkeurige, vertekende of corrupte resultaten produceert. Hierdoor is het makkelijker om door criminelen gemaakte nepbeelden of -video's te detecteren.

Perry, een promovendus, legt uit dat gebruikers Silverer kunnen gebruiken om afbeeldingen te bewerken voordat ze deze uploaden naar sociale media of internet. Dit verandert de pixels om het AI-model voor de gek te houden, waardoor hun output vervormd, bedekt met "vervormingen" of volledig onherkenbaar wordt.

Volgens universitair hoofddocent Campbell Wilson, mededirecteur van AiLECS en expert op het gebied van digitale forensica, wordt het creëren van nep- en schadelijke afbeeldingen met behulp van opensourcetechnologie steeds ernstiger vanwege het gebruiksgemak.

AFP heeft een toename gedocumenteerd in door AI gegenereerd kindermisbruikmateriaal, omdat criminelen de technologie misbruiken om grote hoeveelheden nepporno online te produceren en te delen.

Monash University zei dat het algemene doel van het Silverer-project is om gebruiksvriendelijke technologie te ontwikkelen voor Australiërs die hun persoonlijke gegevens op sociale media willen beschermen. Een pilotversie van de tool wordt momenteel overwogen voor intern gebruik binnen de AFP.

(TTXVN/Vietnam+)

Bron: https://www.vietnamplus.vn/cong-cu-ai-moi-cua-australia-chong-hinh-anh-deepfake-doc-hai-post1076017.vnp