Politie van Ho Chi Minh-stad: Pas op voor de 'duistere kant' van de Veo 3 AI-videocreatietechnologie.

Công an TP.HCM: Cẩn trọng với ‘mặt trái’ của công nghệ tạo video AI Veo 3 - Ảnh 1. — Nieuwe AI-technologieën voor het maken van video's bieden gebruikers veel mogelijkheden, maar brengen ook potentiële risico's met zich mee.

Op 9 juli maakte de politie van Ho Chi Minh-stad bekend dat er, op basis van meldingen en aangiften van misdrijven, geen gevallen van fraude met behulp van de Veo 3 AI-videocreatietechnologie zijn geregistreerd. Het publiek wordt echter aangeraden waakzaam te blijven, omdat deze technologie, naast de positieve aspecten, ook door criminelen kan worden misbruikt voor illegale activiteiten.

Volgens de afdeling Cyberbeveiliging en Preventie van Hightechmisdrijven (PA05) van de politie van Ho Chi Minh-stad worden generatieve AI-toepassingen (zoals Swapface, SoraAI, ChatGPT, Deepseek, enz.) waarmee gebruikers video's, afbeeldingen en livestreams kunnen maken met aangepaste stemmen en gezichten steeds populairder.

Eind mei 2025 bracht Google Google Veo 3 uit, een nieuwe AI-tool voor het maken van video's die momenteel furore maakt op populaire sociale mediaplatformen zoals Facebook en Netflix. De mogelijkheid om beelden, content en beweging te creëren voor zowel personages als achtergronden, en met name de mogelijkheid om automatisch geluidseffecten en voice-overs te genereren, maakt het voor veel kijkers moeilijk om onderscheid te maken tussen door AI gegenereerde content en echte beelden.

Naast de positieve effecten (groot potentieel voor contentcreatie, onderwijs , film, media, enz.), kan deze technologie door individuen worden misbruikt voor illegale activiteiten.

Kwaadwillende personen kunnen bijvoorbeeld de technologie van Veo 3 misbruiken om automatisch belangrijke informatie te extraheren aan de hand van een afbeelding van een persoon, zoals: gelaatstrekken, de geografische locaties die ze vaak bezoeken, de producten en diensten die ze regelmatig gebruiken, hun dagelijkse gewoonten, enzovoort. Op die manier kunnen ze het gezicht en de stem van de persoon reconstrueren met behulp van afbeeldingen en geluiden die van internet zijn gehaald, waardoor een realistische "digitale kloon" ontstaat.

Een veelgebruikte tactiek van oplichters die AI-technologie inzetten, is het creëren van een 'digitale kloon'. De oplichter doet zich dan voor als een familielid of een functionaris (politie, rechtbank, openbaar ministerie, belastingdienst, ziekenhuis, enz.) om via videogesprekken specifieke acties te eisen of paniek en acute nood te veinzen om misbruik te maken van de angst van het slachtoffer. Zodra het slachtoffer geld overmaakt, verdwijnt de oplichter onmiddellijk.

Daarnaast kunnen criminelen dit instrument ook gebruiken voor andere illegale doeleinden, zoals het verspreiden van pornografisch materiaal, het verspreiden van desinformatie, enzovoort, om geld af te persen.

Volgens PA05 zullen criminelen in de toekomst de vooruitgang in wetenschap en technologie blijven misbruiken om illegale activiteiten uit te voeren. Tegelijkertijd blijft de kennis en het bewustzijn van het publiek over het herkennen, voorkomen en bestrijden van dergelijke activiteiten beperkt.

Om de effectiviteit van de bestrijding van online fraude en diefstal van eigendommen in de komende periode te verbeteren, zal de stadspolitie blijven rapporteren aan het ministerie van Openbare Veiligheid om de partij en de staat te adviseren over het perfectioneren van het wettelijk kader en het staatsbeheer van veiligheid en orde, en om het publiek te mobiliseren om deel te nemen aan de landelijke beweging ter bescherming van de nationale veiligheid op lokaal niveau, waardoor het bewustzijn wordt vergroot en de effectiviteit van het voorkomen en opsporen van online fraude en diefstal van eigendommen wordt verbeterd.

Daarnaast geeft de politie van Ho Chi Minh-stad burgers advies over de volgende punten:

Wees alert op berichten en telefoontjes van onbekende nummers met onverwachte informatie; controleer, verifieer en bevestig zorgvuldig de juistheid van de informatie; luister absoluut niet naar instructies van oplichters, volg deze niet op en maak geen geld over zoals gevraagd, en klik niet op links van onbekende bronnen die in berichten of e-mails worden verzonden.

Beperk het plaatsen van content met persoonlijke informatie op openbare sociale mediaplatformen om te voorkomen dat kwaadwillenden informatie zoals afbeeldingen, video's en geluidsopnamen stelen; stel tegelijkertijd uw persoonlijke sociale media-accounts in op privé om uw informatie te beschermen; en installeer online applicaties alleen via de officiële bronnen van het besturingssysteem van uw telefoon (Google Play Store, App Store).

Mocht u ontdekken of vermoeden dat u bent opgelicht met behulp van bovenstaande methoden, dan dient u dit onmiddellijk te melden bij het dichtstbijzijnde politiebureau voor snelle hulp en een oplossing.

Reactie (0)