Ho Chi Minh-stadens polis: Se upp för den "mörka sidan" av Veo 3 AI-videoskapandeteknik.

Även om inga fall av bedrägerier med hjälp av AI-videoskapandetekniken Veo 3 ännu har registrerats, uppmanar polisen i Ho Chi Minh-staden medborgarna att vara vaksamma eftersom tekniken kan utnyttjas av brottslingar för att begå olagliga handlingar.

Nya AI-tekniker för videoskapande erbjuder många möjligheter för användare men medför också potentiella risker.

Den 9 juli meddelade polisen i Ho Chi Minh-staden att de, baserat på rapporter och anmälningar om brott, inte har registrerat några fall av bedrägerier med hjälp av AI-videoskapandetekniken Veo 3. Allmänheten bör dock vara vaksam eftersom tekniken, utöver dess positiva aspekter, kan utnyttjas av brottslingar för att begå olagliga handlingar.

Enligt avdelningen för cybersäkerhet och högteknologisk brottsförebyggande (PA05) vid Ho Chi Minh-stadspolisen blir generativa AI-applikationer (som Swapface, SoraAI, ChatGPT, Deepseek, etc.) som låter användare skapa videor, bilder och livestreams med förändrade röster och ansikten alltmer populära.

I slutet av maj 2025 släppte Google Google Veo 3, ett nytt AI-verktyg för videoskapande som just nu gör succé på populära sociala medieplattformar som Facebook och Netflix. Dess förmåga att skapa bilder, innehåll och rörelse för både karaktärer och bakgrunder, särskilt dess förmåga att automatiskt generera ljudeffekter och berättarröst på begäran, gör det svårt för många tittare att skilja mellan AI-genererat innehåll och verkliga bilder.

Förutom dess positiva effekter (stor potential inom innehållsskapande, utbildning , film, media etc.) kan denna teknik utnyttjas av individer för att begå olagliga handlingar.

Till exempel kan illvilliga aktörer utnyttja Veo 3-tekniken för att automatiskt extrahera viktig information från en persons bild, såsom personens ansiktsdrag; de geografiska platser de besöker ofta; de produkter och tjänster de ofta använder; deras dagliga vanor etc., och därigenom rekonstruera deras ansikte och röst med hjälp av endast bilder och ljud hämtade från internet; och därmed skapa en realistisk "digital klon".

En vanlig taktik som används av bedragare som använder AI-teknik är att skapa en "digital klon" och låta bedragaren utge sig för att vara en släkting eller tjänsteman (polis, domstol, åklagarmyndighet, skattekontor, sjukhus etc.) för att ringa videosamtal, kräva specifika åtgärder eller låtsas panik och akut nöd för att utnyttja offrets ångest; när offret överför pengar försvinner bedragaren omedelbart.

Dessutom kan brottslingar även använda detta verktyg för andra olagliga syften, såsom att distribuera pornografiskt innehåll, sprida felinformation etc. för att utpressa pengar.

Enligt PA05 kommer brottslingar i framtiden att fortsätta utnyttja framsteg inom vetenskap och teknik för att utföra olaglig verksamhet. Samtidigt är allmänhetens kunskap och medvetenhet om att identifiera, förebygga och vara vaksam mot sådan verksamhet fortfarande begränsad.

För att förbättra effektiviteten i kampen mot onlinebedrägerier och egendomsstölder under den kommande perioden kommer stadspolisen att fortsätta rapportera till ministeriet för offentlig säkerhet för att ge råd till partiet och staten om att fullända den rättsliga ramen och statens hantering av säkerhet och ordning, och mobilisera allmänheten att delta i den landsomfattande rörelsen för att skydda den nationella säkerheten på gräsrotsnivå, och därigenom öka medvetenheten och öka effektiviteten i att förebygga och upptäcka onlinebedrägerier och egendomsstölder.

Dessutom ger polisen i Ho Chi Minh-staden medborgarna råd om följande:

Var uppmärksam på meddelanden och samtal från okända nummer som innehåller oväntad information; kontrollera, verifiera och bekräfta noggrant informationens riktighet; lyssna absolut inte på, följ inte instruktioner eller överför pengar som begärs av bedragare, och använd inte länkar från okända källor som skickas i meddelanden eller e-postmeddelanden.

Begränsa publicering av innehåll som innehåller personlig information på offentliga sociala medieplattformar för att undvika risken för att illvilliga aktörer stjäl information som bilder, videor och röstinspelningar; samtidigt, ställ in dina personliga sociala mediekonton på privat läge för att skydda din information; och installera endast onlineapplikationer från de officiella källorna till din telefons operativsystem (CH Play, AppStore).

Om du upptäcker eller misstänker att du har blivit lurad med hjälp av ovanstående metoder bör du omedelbart anmäla det till närmaste polisstation för snabb hjälp och lösning.

DAN THUAN - CHAU TUAN

Källa: https://tuoitre.vn/cong-an-tp-hcm-can-trong-voi-mat-trai-cua-cong-nghe-tao-video-ai-veo-3-20250709172731831.htm