Volgens de correspondent van het Vietnamese persbureau in Sydney werken Monash University en de Australische federale politie (AFP) samen aan de ontwikkeling van een baanbrekend nieuw instrument voor kunstmatige intelligentie (AI). Dit instrument is bedoeld om criminelen te vertragen en te voorkomen dat ze met behulp van AI kwaadaardige deepfake-afbeeldingen en kinderpornografisch materiaal creëren.
De tool, genaamd Silverer, is een product van het AI for Law Enforcement and Community Safety Lab (AiLECS) – een strategische onderzoeksamenwerking tussen de Australische federale politie (AFP) en Monash University, gericht op het toepassen van AI om complexe veiligheids- en juridische uitdagingen aan te pakken. De tool bevindt zich momenteel in de testfase en wordt ontwikkeld onder leiding van promovenda Elizabeth Perry van Monash University.
Volgens Monash University gebruikt het project "datavergiftiging" als kerntechniek in deze nieuwe tool. Deze techniek houdt in dat online brongegevens subtiel worden aangepast, waardoor het voor AI- en machine learning-modellen (ML) aanzienlijk moeilijker wordt om afbeeldingen of video's te creëren, te manipuleren en te misbruiken.
Omdat AI-tools grote hoeveelheden brongegevens vereisen, zou datavergiftiging ertoe leiden dat de modellen onnauwkeurige, vertekende of vervalste resultaten produceren, waardoor het gemakkelijker wordt om nepafbeeldingen of -video's te detecteren die door criminelen zijn gemaakt.
Onderzoeksstudent Perry legde uit dat gebruikers Silverer kunnen gebruiken om afbeeldingen te bewerken voordat ze deze uploaden naar sociale media of internet. Hierdoor worden pixels aangepast om AI-modellen te misleiden, waardoor hun output vervormd, vol 'vervormingen' of volledig onherkenbaar wordt.
Associate Professor Campbell Wilson, mededirecteur van AiLECS en expert op het gebied van digitale forensische wetenschap, merkt op dat het creëren van valse en kwaadaardige afbeeldingen met behulp van open-source technologie een steeds ernstiger probleem wordt vanwege het gebruiksgemak ervan.
AFP heeft een toename geconstateerd in kinderpornografisch materiaal dat met behulp van AI is gemaakt, omdat criminelen de technologie misbruiken om grote hoeveelheden nep-pornografie online te produceren en te verspreiden.
Monash University heeft verklaard dat het overkoepelende doel van Project Silverer is om een gebruiksvriendelijke technologie te ontwikkelen voor Australiërs die hun persoonlijke gegevens op sociale media willen beschermen. Een pilotversie van de tool wordt momenteel overwogen voor intern gebruik binnen de Australische federale politie (AFP).
Bron: https://www.vietnamplus.vn/cong-cu-ai-moi-cua-australia-chong-hinh-anh-deepfake-doc-hai-post1076017.vnp
Reactie (0)