Cyberfraudeurs 'misleiden' AI en creëren psychologische manipulatiescenario's

Online fraudeurs doen zich niet alleen voor als familieleden, politieagenten en dergelijke, maar manipuleren ook hulpmiddelen voor kunstmatige intelligentie (AI) om honderden oplichtingsscenario's te creëren waarmee ze gebruikers kunnen aanvallen.

Cybersecurity-expert Ngo Minh Hieu zei dat fraudeurs AI manipuleren en binnen enkele minuten honderden fraudescenario's creëren - Foto: VU TUAN

Volgens de sociale onderneming Chongluadao.vn gebruiken fraudeurs AI om malware te genereren, scripts voor oplichting te schrijven en geluiden en afbeeldingen te transformeren via deepfake.

Volgens cybersecurity-expert Ngo Minh Hieu (Hieu PC), vertegenwoordiger van Chongluadao.vn, is een gevaarlijke truc om AI te misleiden en malware te laden. "Ze creëren neppe audio- of afbeeldingsbestanden en integreren malware die de AI niet herkent. Wanneer het AI-systeem deze verwerkt, wordt de malware geactiveerd en neemt deze de controle over", aldus Hieu PC.

Zo gebruikte hij AI om stemmen en afbeeldingen van familieleden via FaceTime te vervalsen en zo mensen ertoe te verleiden geld over te maken.

De frequentie van fraude is de laatste tijd aanzienlijk toegenomen dankzij de ondersteuning van AI-tools. Door AI te gebruiken om fraude te plegen, overwinnen fraudeurs alle taal- en geografische barrières. De vormen van fraude worden steeds geavanceerder en gevaarlijker.

Expert Hieu PC analyseerde dat cybercriminelen, ongeacht welk hulpmiddel ze gebruiken om fraude te plegen, altijd een scenario hebben. Deze informatie verzamelde zijn team van medewerkers door honderden online fraudemeldingen te ontvangen en te verwerken.

Veelvoorkomende vormen van fraude zijn het zich voordoen als familieleden, het zich voordoen als werknemers van overheidsinstanties, de politie, elektriciteitsbedrijven... Geavanceerder zijn scenario's waarbij slachtoffers in beleggingsvallen worden gelokt, taken worden uitgevoerd of daten...

Cybersecurity-experts zeggen dat het eerste wat je moet doen om te voorkomen dat je afbeelding wordt vervalst, is je persoonlijke afbeeldingen niet openbaar te delen op sociale netwerken. Bellen en berichten waarin om geld wordt gevraagd, op links wordt geklikt of eenmalig wachtwoord wordt verstrekt, zijn in 99% van de gevallen oplichting.

Hackertrucs om AI aan te vallen

Volgens cybersecurity-experts is een "adversarial attack" een truc die hackers gebruiken om AI te "misleiden". Dit is een vorm van valse informatie die ervoor zorgt dat AI de informatie verkeerd begrijpt of misbruikt. De AI injecteert vervolgens schadelijke code in het systeem of voert de opdrachten van de fraudeur uit.

Fraudeurs maken misbruik van deze zwakte om AI te omzeilen, met name AI-beveiligingssystemen (zoals antivirussoftware, spraakherkenning of controles van banktransacties).

Bron: https://tuoitre.vn/lua-dao-mang-lua-ca-ai-tao-kich-ban-thao-tung-tam-ly-20250228163856719.htm