Ho Chi Minh-stadens polis: Var försiktig med den "mörka sidan" av AI-videoskapandetekniken Veo 3

Även om det inte har registrerats några fall av bedrägerier med AI-videoskapandetekniken Veo 3, rekommenderar polisen i Ho Chi Minh-staden att man är vaksam eftersom tekniken kan utnyttjas av skurkar för att begå olagliga handlingar.

Ny AI-teknik för videogenerering erbjuder många möjligheter för användare men medför också risker

Den 9 juli meddelade polisen i Ho Chi Minh City att det genom arbetet med att ta emot rapporter och anmäla brott inte har registrerats några fall av bedrägerier med AI Veo 3-videoskapande tekniken. Människor måste dock också vara vaksamma eftersom tekniken, förutom de positiva aspekterna, kan utnyttjas av skurkar för att begå olagliga handlingar.

Enligt avdelningen för cybersäkerhet och högteknologisk brottsförebyggande åtgärder (PA05) vid Ho Chi Minh City-polisen har generativa AI-applikationer – även kända som artificiell AI (som Swapface, SoraAI, ChatGPT, Deepseek...) som låter användare skapa videor, bilder, livestreams med röstförändringar och ansiktsförändringar blivit alltmer populära.

I slutet av maj 2025 släppte Google Google Veo 3, en ny AI-teknik för videoskapande som sätter fart på populära sociala nätverksplattformar som Facebook, X... med möjligheten att skapa bilder, innehåll och rörelser av både karaktärer och bakgrunder, särskilt möjligheten att automatiskt skapa ljudeffekter och berättarröst på begäran, vilket gör det svårt för många tittare att skilja på om det är en AI-produkt eller en verklig scen.

Förutom de positiva effekterna (stor potential inom innehållsskapande, utbildning , film, media...) kan denna teknik utnyttjas av personer för att begå olagliga handlingar.

Till exempel, från en persons bild kan skurkar utnyttja Veo 3-tekniken för att automatiskt "extrahera" många viktiga uppgifter, såsom: fotoägarens ansikte; den geografiska plats där personen på fotot ofta besöker; produkter och tjänster som ofta används; levnadsvanor... och därigenom återskapa ansiktet och rösten med endast bilder och ljud hämtade från cyberrymden; härifrån skapas en realistisk "digital kopia".

Ett välkänt trick för bedragare som använder AI-teknik är att efter att ha skapat en "digital kopia" får de någon att utge sig för att vara en släkting eller en myndighet (polis, domstol, åklagarmyndighet, skattekontor, sjukhus etc.) för att ringa ett videosamtal för att be dem göra som de begärt eller låtsas få panik och ringa efter akut hjälp för att utnyttja offrets ångest; när offret har överfört pengarna "försvinner" bedragaren omedelbart.

Dessutom kan skurkar även använda detta verktyg för andra olagliga syften, såsom pornografiskt innehåll, spridning av falsk information... för att utpressa egendom.

Enligt PA05 kommer skurkar även i framtiden att utnyttja utvecklingen inom vetenskap och teknik för att utnyttja, driva och begå olagliga handlingar. Samtidigt är människors kunskap och medvetenhet om identifiering, självförebyggande åtgärder och vaksamhet fortfarande begränsad.

För att förbättra effektiviteten i kampen mot bedrägerier med tillgodoräknande av tillgångar i cyberrymden under den kommande tiden kommer stadspolisen att fortsätta rapportera till ministeriet för offentlig säkerhet för att ge råd till partiet och staten att slutföra den rättsliga korridoren, arbetet med statlig förvaltning av säkerhet och ordning, arbetet med att mobilisera massorna att delta i hela folkets rörelse för att skydda den nationella säkerheten på gräsrotsnivå för att öka medvetenheten och vaksamheten, öka effektiviteten i att förebygga och upptäcka bedrägerier med tillgodoräknande av tillgångar i cyberrymden.

Dessutom rekommenderar Ho Chi Minh-stadens polis följande till människor:

Var vaksam mot meddelanden och samtal från okända nummer med innehåll om oväntade situationer; kontrollera, verifiera och fastställ noggrant informationens riktighet; lyssna absolut inte, följ inte instruktioner, överför inte pengar som begärs av skurkar, gå inte till länkar av okänt ursprung som skickas i meddelanden, e-postmeddelanden etc.

Begränsa publicering av innehåll relaterat till personlig information på offentliga sociala nätverksplattformar... för att undvika fall där skurkar stjäl information som bilder, videor och röster; samtidigt, ställ in personliga sociala nätverkskonton på privat läge för att skydda information; installera endast onlineapplikationer från officiella källor till telefonens operativsystem (CH Play, AppStore).

Om du upptäcker bedrägeri eller misstänker bedrägeri med hjälp av ovanstående knep, måste du snabbt anmäla det till närmaste polismyndighet för snabb hjälp och lösning.

DAN THUAN - CHAU TUAN

Källa: https://tuoitre.vn/cong-an-tp-hcm-can-trong-voi-mat-trai-cua-cong-nghe-tao-video-ai-veo-3-20250709172731831.htm