De strijd tegen deepfake nu AI zowel een "wapen" als een "schild" wordt.
In het tijdperk van AI is de confrontatie tussen cybercriminelen en beveiligingsbedrijven niet langer louter een technologische wedloop, maar een poging om het vertrouwen te herstellen dat is ondermijnd door steeds geavanceerdere nepcontent.
Wanneer wat je ziet en hoort niet langer betrouwbaar is.
Nog maar een paar jaar geleden konden gebruikers deepfakes herkennen aan vrij "grove" kenmerken zoals onnatuurlijke gezichtsuitdrukkingen, afwijkende mondbewegingen of ongebruikelijke oogbewegingen. Deze methoden raakten echter snel achterhaald door de ontwikkeling van AI-technologie.
Tegenwoordig kan AI beelden en stemmen met zeer hoge nauwkeurigheid nabootsen, zelfs subtiele trillingen in de menselijke stem simuleren. In een experiment van journalist Gaby Del Valle, waarbij slechts 9 seconden audio van sociale media werd gebruikt, creëerde het AI-systeem een nepversie die een gesprek bijna overtuigend kon voeren.
In het dagelijks leven kan intuïtie mensen nog steeds helpen om afwijkingen te herkennen. Op de werkvloer of bij financiële transacties – waar informatie snel wordt verwerkt en tijd van essentie is – worden deze verdachte signalen echter gemakkelijk over het hoofd gezien, waardoor het risico om opgelicht te worden toeneemt.
Deepfakes worden niet langer beperkt tot online entertainment; cybercriminelen gebruiken ze nu voor georganiseerde oplichting. Ze kunnen openbaar beschikbare gegevens van sociale media verzamelen om een 'stemmenbank' van werknemers binnen een bedrijf op te bouwen en vervolgens AI gebruiken om zich voor te doen als leidinggevenden of collega's om telefoontjes te plegen met verzoeken om geld over te maken.
De schade die deze incidenten aanrichten is aanzienlijk. Elke deepfake-oplichting kan bedrijven honderdduizenden dollars kosten. Zorgwekkend is dat de scenario's vaak misbruik maken van het gevoel van urgentie bij het slachtoffer – bijvoorbeeld door zich voor te doen als een geliefde om hulp te vragen – waardoor ze in zeer korte tijd hun waakzaamheid laten vallen.
'Vuur met vuur bestrijden' met behulp van AI
Om dit tegen te gaan, kiezen veel beveiligingsstartups voor een omgekeerde aanpak: ze gebruiken AI zelf om deepfakes te detecteren.
Een veelgebruikte aanpak in machine learning is het 'leraar-leerling'-model. Het systeem wordt getraind met grote hoeveelheden echte en nepgegevens om te leren hoe technische sporen te herkennen die mensen niet met het blote oog kunnen zien.
Deze aanpak creëert een vicieuze cirkel: naarmate deepfakes geavanceerder worden, moeten detectiesystemen voortdurend worden verbeterd om bij te blijven. De race lijkt daarom geen einde te kennen.
De uitdaging zit hem echter in het feit dat de kosten voor het creëren van nepcontent steeds lager worden dankzij het wijdverbreide gebruik van AI-modellen, terwijl detectie en bestrijding aanzienlijk meer middelen vergen.
Een nieuwe aanpak is het vaststellen van standaarden voor het verifiëren van de herkomst van content, zodat gebruikers weten waar de gegevens vandaan komen en of ze bewerkt zijn. Deze oplossing brengt echter nog steeds het risico van vervalsing met zich mee als er geen rigoureus verificatiesysteem is.
Naar verwachting zullen deepfake-detectietools op de lange termijn de standaard beveiligingslaag worden, direct geïntegreerd in browsers, digitale platforms of internetinfrastructuur – vergelijkbaar met de rol van antivirussoftware vandaag de dag.
Bron: https://tuoitre.vn/deepfake-lan-rong-cuoc-dua-ai-lay-doc-tri-doc-nong-len-2026042808084971.htm
Reactie (0)