Politie Ho Chi Minhstad: wees voorzichtig met de 'donkere kant' van AI-videotechnologie Veo 3

Hoewel er geen gevallen van fraude met de Veo 3 AI-videotechnologie zijn geregistreerd, raadt de politie van Ho Chi Minhstad mensen aan waakzaam te zijn, omdat deze technologie door slechteriken kan worden misbruikt om illegale handelingen te plegen.

Nieuwe AI-technologie voor het genereren van video biedt gebruikers veel kansen, maar brengt ook risico's met zich mee

Op 9 juli meldde de politie van Ho Chi Minhstad dat er geen gevallen van fraude met de AI Veo 3-videotechnologie zijn geregistreerd tijdens het ontvangen van meldingen en het melden van misdrijven. Waakzaamheid is echter geboden, want naast de positieve aspecten kan deze technologie ook door criminelen worden misbruikt om illegale activiteiten te plegen.

Volgens de afdeling Cyberbeveiliging en Preventie van Hightechcriminaliteit (PA05) van de politie van Ho Chi Minhstad zijn generatieve AI-toepassingen - ook wel kunstmatige AI genoemd (zoals Swapface, SoraAI, ChatGPT, Deepseek...) - waarmee gebruikers video's, afbeeldingen en livestreams met stem- en gezichtsveranderingen kunnen maken, steeds populairder geworden.

Eind mei 2025 bracht Google Google Veo 3 uit, een nieuwe AI-technologie voor het maken van video's die furore maakt op populaire sociale netwerkplatforms zoals Facebook, X... met de mogelijkheid om afbeeldingen, content en bewegingen van zowel personages als achtergronden te maken, en vooral de mogelijkheid om automatisch geluidseffecten en voice-overs op aanvraag te creëren, waardoor het voor veel kijkers moeilijk is om te onderscheiden of het om een ​​AI-product of een echte scène gaat.

Naast de positieve effecten (groot potentieel op het gebied van contentcreatie, educatie , cinema, media...) kan deze technologie ook door burgers worden misbruikt om illegale handelingen te plegen.

Boeven kunnen bijvoorbeeld met behulp van de Veo 3-technologie misbruik maken van de foto van een persoon om automatisch belangrijke informatie te 'halen', zoals: het gezicht van de eigenaar van de foto, de geografische locatie die de persoon op de foto vaak bezoekt, producten en diensten die vaak worden gebruikt en leefgewoonten. Zo kunnen ze het gezicht en de stem van de persoon namaken met alleen beelden en geluiden die uit cyberspace zijn gehaald. Op basis hiervan creëren ze een realistische 'digitale kopie'.

Een bekende truc van oplichters die gebruikmaken van AI-technologie is dat ze na het maken van een 'digitale kopie' iemand laten doen alsof hij of zij een familielid of een overheidsinstantie is (politie, rechtbank, Openbaar Ministerie, belastingkantoor, ziekenhuis, etc.). Vervolgens voeren ze een videogesprek met iemand waarin ze vragen te doen wat er wordt gevraagd of in paniek raken en het alarmnummer bellen. Zo misbruiken ze de angst van het slachtoffer. Zodra het slachtoffer het geld heeft overgemaakt, 'verdwijnt' de oplichter onmiddellijk.

Daarnaast kunnen criminelen deze tool ook voor andere illegale doeleinden gebruiken, zoals: pornografische content, het verspreiden van valse informatie... om goederen af ​​te persen.

Volgens PA05 zullen criminelen de komende tijd nog steeds misbruik maken van de ontwikkeling van wetenschap en technologie om illegale activiteiten uit te buiten, uit te voeren en te plegen. Ondertussen zijn de kennis en het bewustzijn van mensen op het gebied van identificatie, zelfpreventie en waakzaamheid nog steeds beperkt.

Om de effectiviteit van de strijd tegen frauduleuze activiteiten van toe-eigening van activa in cyberspace in de komende tijd te verbeteren, zal de stadspolitie blijven rapporteren aan het Ministerie van Openbare Veiligheid om de Partij en de Staat te adviseren over het voltooien van de juridische corridor, het werk van staatsbeheer van veiligheid en orde, het werk van het mobiliseren van de massa's om deel te nemen aan de beweging van het hele volk om de nationale veiligheid op basisniveau te beschermen om het bewustzijn en de waakzaamheid te vergroten, de effectiviteit te vergroten bij het voorkomen en detecteren van frauduleuze activiteiten van toe-eigening van activa in cyberspace.

Daarnaast adviseert de politie van Ho Chi Minhstad het volgende:

Wees waakzaam voor berichten en oproepen van onbekende nummers met inhoud die over onverwachte situaties gaat. Controleer, verifieer en bepaal zorgvuldig de juistheid van informatie. Luister absoluut niet, volg geen instructies op, maak geen geld over op verzoek van slechteriken en open geen links van onbekende oorsprong die in berichten, e-mails, enz. worden verzonden.

Beperk het plaatsen van content met betrekking tot persoonlijke informatie op openbare sociale netwerkplatformen om te voorkomen dat criminelen informatie stelen, zoals afbeeldingen, video's en stemmen. Zet tegelijkertijd persoonlijke accounts op sociale netwerken in de privémodus om informatie te beschermen. Installeer alleen online-applicaties van officiële bronnen van het besturingssysteem van de telefoon (CH Play, AppStore).

Als u fraude ontdekt of vermoedt door het gebruik van de bovenstaande trucs, dient u zich zo snel mogelijk te melden bij het dichtstbijzijnde politiebureau. U krijgt dan tijdig ondersteuning en een oplossing.

DAN THUAN - CHAU TUAN

Bron: https://tuoitre.vn/cong-an-tp-hcm-can-trong-voi-mat-trai-cua-cong-nghe-tao-video-ai-veo-3-20250709172731831.htm