Ho Chi Minh-stadens polis: Var försiktig med den "mörka sidan" av AI-videoskapandetekniken Veo 3

Công an TP.HCM: Cẩn trọng với ‘mặt trái’ của công nghệ tạo video AI Veo 3 - Ảnh 1. — Ny AI-teknik för videogenerering erbjuder många möjligheter för användare, men medför också risker.

Den 9 juli meddelade polisen i Ho Chi Minh City att det genom arbetet med att ta emot rapporter och anmäla brott inte har registrerats några fall av bedrägerier med AI Veo 3-videoskapande tekniken. Människor måste dock också vara mer vaksamma eftersom tekniken, förutom de positiva aspekterna, kan utnyttjas av skurkar för att begå olagliga handlingar.

Enligt avdelningen för cybersäkerhet och högteknologisk brottsförebyggande åtgärder (PA05) vid Ho Chi Minh City-polisen har generativa AI-applikationer – även kända som artificiell AI (som Swapface, SoraAI, ChatGPT, Deepseek...) som låter användare skapa videor, bilder, livestreams med röstförändringar och ansiktsförändringar blivit alltmer populära.

I slutet av maj 2025 släppte Google verktyget Google Veo 3, en ny AI-teknik för videoskapande, som sätter fart på populära sociala nätverksplattformar som Facebook, X... med möjligheten att skapa bilder, innehåll och rörelser av både karaktärer och bakgrunder, särskilt möjligheten att automatiskt skapa ljudeffekter och dubbning på begäran, vilket gör det svårt för många tittare att skilja på om det är en AI-produkt eller en verklig scen.

Förutom de positiva effekterna (stor potential inom innehållsskapande, utbildning , film, media...) kan denna teknik utnyttjas av personer för att begå olagliga handlingar.

Till exempel kan skurkar utnyttja Veo 3-tekniken för att automatiskt "extrahera" många viktiga uppgifter från en persons bild, såsom: fotoägarens ansiktsigenkänning; den geografiska platsen dit personen på bilden ofta besöker; produkter och tjänster som ofta används; levnadsvanor... och därigenom återskapa ansiktet och rösten med endast bilder och ljud hämtade från cyberrymden; härifrån skapas en realistisk "digital kopia".

Ett välkänt trick för bedragare som använder AI-teknik är att efter att ha skapat en "digital kopia" får de någon att utge sig för att vara en släkting eller en behörig myndighet (polis, domstol, åklagarmyndighet, skattekontor, sjukhus etc.) för att videosamtal och be dem att göra som begärts eller låtsas få panik och ringa efter akut hjälp för att utnyttja offrets ångest; när offret har överfört pengarna "försvinner" bedragaren omedelbart.

Dessutom kan skurkar även använda detta verktyg för andra olagliga syften, såsom pornografiskt innehåll, spridning av falsk information... för att utpressa egendom.

Enligt PA05 kommer skurkar även i framtiden att utnyttja utvecklingen inom vetenskap och teknik för att utnyttja, driva och begå olagliga handlingar. Samtidigt är människors kunskap och medvetenhet om identifiering, självförebyggande åtgärder och vaksamhet fortfarande begränsad.

För att förbättra effektiviteten i kampen mot bedrägerier med tillgodoräknande av tillgångar i cyberrymden under den kommande tiden kommer stadspolisen att fortsätta rapportera till ministeriet för offentlig säkerhet för att ge råd till partiet och staten att finslipa den rättsliga ramen, statens hantering av säkerhet och ordning, och mobilisera massorna att delta i hela folkets rörelse för att skydda den nationella säkerheten på gräsrotsnivå för att öka medvetenheten och vaksamheten, och öka effektiviteten i att förebygga och upptäcka bedrägerier med tillgodoräknande av tillgångar i cyberrymden.

Dessutom rekommenderar Ho Chi Minh-stadens polis följande till människor:

Var vaksam mot meddelanden och samtal från okända nummer om oväntade situationer; kontrollera, verifiera och fastställ noggrant informationens riktighet; lyssna absolut inte på, följ inte instruktioner, överför inte pengar som begärs av skurkar, besök inte länkar av okänt ursprung som skickas i meddelanden, e-postmeddelanden etc.

Begränsa publicering av innehåll relaterat till personlig information på offentliga sociala nätverksplattformar... för att undvika att skurkar stjäl information som bilder, videor och röster; samtidigt, ställ in personliga sociala nätverkskonton på privat läge för att skydda information; installera endast onlineapplikationer från officiella källor till telefonens operativsystem (CH Play, AppStore).

Om du upptäcker att du har blivit bedragen eller misstänker att du har blivit bedragen på något av ovanstående sätt, bör du omedelbart anmäla saken till närmaste polisstation för snabb hjälp och lösning.

Kommentar (0)