Politie Ho Chi Minhstad: wees voorzichtig met de 'donkere kant' van AI-videotechnologie Veo 3

Hoewel er geen gevallen van fraude met de Veo 3 AI-videotechnologie zijn geregistreerd, raadt de politie van Ho Chi Minhstad mensen aan waakzaam te zijn, omdat deze technologie door slechteriken kan worden misbruikt om illegale handelingen te plegen.

Nieuwe AI-technologie voor het genereren van video biedt gebruikers veel kansen, maar brengt ook risico's met zich mee.

Op 9 juli meldde de politie van Ho Chi Minhstad dat er geen gevallen van fraude met de AI Veo 3-videotechnologie zijn geregistreerd tijdens het ontvangen van meldingen en het melden van misdrijven. Mensen moeten echter ook waakzamer zijn, want naast de positieve aspecten kan deze technologie ook door criminelen worden misbruikt om illegale activiteiten te plegen.

Volgens de afdeling Cyberbeveiliging en Preventie van Hightechcriminaliteit (PA05) van de politie van Ho Chi Minhstad zijn generatieve AI-toepassingen - ook wel kunstmatige AI genoemd (zoals Swapface, SoraAI, ChatGPT, Deepseek...) - waarmee gebruikers video's, afbeeldingen en livestreams met stem- en gezichtsveranderingen kunnen maken, steeds populairder geworden.

Eind mei 2025 bracht Google de Google Veo 3-tool uit, een nieuwe AI-technologie voor het maken van video's, die voor opschudding zorgt op populaire sociale netwerkplatforms zoals Facebook, X... met de mogelijkheid om afbeeldingen, content en bewegingen van zowel personages als achtergronden te maken, en met name de mogelijkheid om automatisch geluidseffecten en nasynchronisatie op aanvraag te creëren, waardoor het voor veel kijkers moeilijk is om te onderscheiden of het om een ​​AI-product of een echte scène gaat.

Naast de positieve effecten (groot potentieel op het gebied van contentcreatie, educatie , cinema, media...) kan deze technologie ook door burgers worden misbruikt om illegale handelingen te plegen.

Boeven kunnen bijvoorbeeld met behulp van de Veo 3-technologie automatisch belangrijke informatie 'halen' uit een afbeelding van een persoon, zoals: de gezichtsherkenning van de eigenaar van de foto, de geografische locatie waar de persoon op de foto vaak komt, veelgebruikte producten en diensten en leefgewoonten. Zo kunnen ze het gezicht en de stem van de persoon namaken met alleen beelden en geluiden die uit cyberspace zijn gehaald. Op basis hiervan creëren ze een realistische 'digitale kopie'.

Een bekende truc van oplichters die gebruikmaken van AI-technologie is dat ze na het maken van een 'digitale kopie' iemand laten videobellen die zich voordoet als een familielid of een bevoegde instantie (politie, rechtbank, Openbaar Ministerie, belastingdienst, ziekenhuis, enz.), en hen vragen te doen wat er wordt gevraagd. Of ze doen alsof ze in paniek zijn en bellen om hulp. Zo misbruiken ze de angst van het slachtoffer. Zodra het slachtoffer het geld heeft overgemaakt, 'verdwijnt' de oplichter meteen.

Daarnaast kunnen criminelen deze tool ook voor andere illegale doeleinden gebruiken, zoals: pornografische content, het verspreiden van valse informatie... om goederen af ​​te persen.

Volgens PA05 zullen criminelen de komende tijd nog steeds misbruik maken van de ontwikkeling van wetenschap en technologie om illegale activiteiten uit te buiten, uit te voeren en te plegen. Ondertussen zijn de kennis en het bewustzijn van mensen op het gebied van identificatie, zelfpreventie en waakzaamheid nog steeds beperkt.

Om de effectiviteit van de strijd tegen frauduleuze activiteiten van toe-eigening van activa in cyberspace in de komende tijd te verbeteren, zal de stadspolitie blijven rapporteren aan het Ministerie van Openbare Veiligheid om de Partij en de Staat te adviseren om het wettelijk kader, het staatsbeheer van veiligheid en orde te verbeteren en de massa's te mobiliseren om deel te nemen aan de beweging van het hele volk om de nationale veiligheid op lokaal niveau te beschermen om het bewustzijn en de waakzaamheid te vergroten en de effectiviteit te vergroten bij het voorkomen en detecteren van frauduleuze activiteiten van toe-eigening van activa in cyberspace.

Daarnaast adviseert de politie van Ho Chi Minhstad het volgende:

Wees waakzaam voor berichten en oproepen van onbekende nummers over onverwachte situaties. Controleer, verifieer en bepaal zorgvuldig de juistheid van informatie. Luister absoluut niet naar instructies van slechteriken, maak geen geld over op verzoek van hen en open geen links van onbekende oorsprong die in berichten, e-mails, enz. worden verzonden.

Beperk het plaatsen van content met betrekking tot persoonlijke informatie op openbare sociale netwerkplatformen om te voorkomen dat criminelen informatie stelen, zoals afbeeldingen, video's en stemmen. Zet tegelijkertijd persoonlijke accounts op sociale netwerken in de privémodus om informatie te beschermen. Installeer alleen online-applicaties van officiële bronnen van het besturingssysteem van de telefoon (CH Play, AppStore).

Als u erachter komt dat u bent opgelicht of vermoedt dat u op een van de hierboven genoemde manieren bent opgelicht, dient u onmiddellijk melding te maken bij het dichtstbijzijnde politiebureau. Wij kunnen u dan snel helpen en een oplossing bieden.

DAN THUAN - CHAU TUAN

Bron: https://tuoitre.vn/cong-an-tp-hcm-can-trong-voi-mat-trai-cua-cong-nghe-tao-video-ai-veo-3-20250709172731831.htm