AI:s dualitet

Det är dags för varje användare att bli en "digital sköld", vara uppmärksam, vaksam och ansvarig för varje klick och delning.

Fördelar och den fina gränsen från AI

Artificiell intelligens har aldrig varit mer verklighetstrogen än idag. Med bara några få klick kan ett kort kommando skapa röster, bilder och till och med videor med häpnadsväckande realism. AI hjälper till att spara tid, minska produktionskostnader för innehåll och öppnar upp för en era av flexibla digitala medier.

Möjligheten att "simulera realistiskt" har dock blivit ett tveeggat svärd. På senare tid har sociala nätverk kontinuerligt dykt upp videor skapade med deepfake-teknik, där polischefers ansikten, bilder av funktionella styrkor i känsliga fall... klipps och klistras in, dubbas med förvrängda röster för att orsaka missförstånd och splittra människor.

Iscensatta bilder som denna dyker alltmer upp på sociala nätverk.

I ett klipp som cirkulerade på TikTok parades bilden av en trafikpolis i tjänst med stötande dialog, tillsammans med hashtaggen "bot för sakens skull" för att antyda att polisen missbrukade sin makt för personlig vinning. Många användare, särskilt unga människor, trodde lätt på innehållet eftersom bilden var så realistisk, rösten var så nära munformen att det blev extremt svårt att skilja mellan äkta och falskt.

Bara för att han ville "visa upp" sin förmåga att tillämpa AI-teknik fick en ung YouTuber i Dien Bien betala priset genom att bli administrativt bötfälld och tvingad att offentligt be om ursäkt. På eftermiddagen den 24 januari meddelade Dien Biens provinspolis att avdelningen för cybersäkerhet och högteknologisk brottsförebyggande hade beslutat att administrativt bötfälla Tong Van T. (född 2001, bosatt i Muong Ang-distriktet) med 7,5 miljoner dong för att ha använt AI för att skapa en falsk video med förvrängt innehåll och förolämpat trafikpolisen.

Mer specifikt, den 7 januari laddade T. upp en video på över 3 minuter med den chockerande titeln: ”Medan jag hängde där blev jagad av trafikpolisen” på YouTube-kontot ”Tuyền Vlog”. I klippet iscensattes bilder och situationer med hjälp av AI-teknik, som simulerade trafikpoliser som jagade människor, kombinerat med effekter och kommentarer som var kränkande och ärekränkande mot myndigheterna.

I samarbete med polisen erkände T. att hela innehållet i klippet var en förfalskning med syftet att "underhålla" och visa förmågan att använda AI-teknik. Utöver böterna bad myndigheterna T. att ta bort ovanstående falska video och offentligt be trafikpolisen om ursäkt på sin personliga YouTube-kanal.

I en tid av digital teknikexplosion , särskilt den snabba utvecklingen av artificiell intelligens, har fientliga och reaktionära krafter inte tvekat att utnyttja detta verktyg för att skapa fabricerade bilder och berättelser i syfte att förvränga och förtala bilden av Vietnams folkets allmänna säkerhetsstyrkor. Fotot som nyligen har cirkulerat på sociala nätverk, där en gravid kvinna i polisuniform hotas av två män med "gangster"-blickar, är en tydlig demonstration av detta trick.

Det AI-genererade fotot blev nyligen viralt på sociala medier.

Vid första anblicken kan tittarna lätt missta detta för en verklig scen, åtföljd av en sensationell rubrik som: ”Stackars pojke räddar gravid poliskvinna från att bli misshandlad av gangsters, öppnar oväntat ett fall som chockar hela landet...”. Men detta är faktiskt bara en iscensatt scen, möjligen från en film eller underhållningsprodukt, eller ännu värre, en bild skapad av AI för att lura läsarnas känslor, vilket får dem att känna medlidande och tvivla på äktheten i brottsbekämpande verksamhet.

Ännu mer oroande är att spridningen av sådant innehåll inte bara skadar folkets allmänna säkerhetsstyrkors rykte och image, vilka skyddar säkerhet och ordning i samhället dag och natt, utan också är en sofistikerad form av psykologisk krigföring. När människors förtroende för myndigheterna urholkas av falska bilder kommer de fientliga krafternas djupa mål att splittra det stora nationella enhetsblocket gradvis att förverkligas.

Därför behöver varje medborgare öka sin vaksamhet, ha kritiskt tänkande och förmåga att identifiera falsk information, och resolut fördöma och motbevisa falskt innehåll, vilket bidrar till att skydda den ideologiska grunden och upprätthålla social stabilitet mot den nuvarande vågen av giftig information i cyberrymden.

I Ho Chi Minh-staden blev ett nästan en minut långt klipp plötsligt viralt på sociala medier, där en person i polisuniform "pressar fram en bekännelse" från en förövare på ett kontor. I videon har personen som tros vara en polis en hård attityd, skriker och skäller ständigt, till och med använder oförskämda ord, vilket orsakar upprördhet bland allmänheten.

Men omedelbart efter att klippet blivit viralt undersökte Ho Chi Minh City-polisen snabbt saken och bekräftade att det rörde sig om en sofistikerad deepfake-produkt. Enligt slutsatsen hämtades ansiktet i videon från en inspelning av ett internt möte inom polisen, och använde sedan AI-teknik av skurkar för att placera det i en iscensatt scen, vilket fick tittarna att felaktigt tro att det var en verklig handling.
I synnerhet innehåller det medföljande ljudet en hotfull, förolämpande röst som inte är någon tjänstemans riktiga ord utan en syntetisk AI-röst, programmerad och redigerad för att lura tittarens känslor.

Händelsen är ett typiskt exempel på hur deepfake-teknik används för att förvränga och förtala Folkets allmänna säkerhetsstyrkor, ett knep som i allt högre grad utnyttjas av reaktionära och regeringsfientliga styrkor i cyberrymden. Det är värt att notera att om sådana förfalskade produkter inte omedelbart avslöjas kan de leda till allvarliga konsekvenser: att skaka människors förtroende för brottsbekämpande myndigheter, uppvigla motstånd i samhället och skapa förutsättningar för att falska argument ska spridas. Detta är en tydlig varning om hur brådskande det är att förbättra mediernas förmåga att motbevisa, upptäcka och bekämpa falska nyheter, och samtidigt uppmana varje medborgare att vara uppmärksam och inte skynda sig att dela eller kommentera overifierat innehåll från officiella källor.

I ett annat nyligt fall, relaterat till hanteringen av överträdelser vid en fordonsbesiktningscentral i södern, spred fientliga personer en falsk video av en provinsiell polischef som talade till försvar för felande poliser. Detta klipp spreds på Telegram och sociala nätverk med titeln "stödd av mäktiga krafter", men i själva verket var det en produkt av AI och förekom inte alls i någon presskonferens eller officiellt dokument.

En farlig trend sprider sig i tysthet i cyberrymden, nämligen att skurkar använder AI-teknik för att skapa falska klipp i syfte att bedräga och utpressa. På senare tid har många människor blivit offer när deras bilder, särskilt bilder på prestigefyllda personer som advokater, läkare och affärsmän, redigeras till reklamvideor som "återvinner pengar som blivit lurade online".

I dessa klipp används AI för att förfalska advokatens röst och ansikte, vilket gör tittarna förtroendefulla och därigenom enkelt lämnar ut personlig information eller överför pengar till bedragaren. Ännu farligare är att vissa personer också använder deepfake-teknik för att placera offrets ansikte i sexvideor och sedan skicka dem till sina fruar, män eller kollegor i syfte att hota dem och tvinga dem att överföra pengar för att "hålla saken hemlig".

En chockerande händelse inträffade i mars 2025, då ett offer i Hanoi ombads att överföra tiotals miljoner dong efter att ha mottagit ett falskt sexklipp med en bild på honom. Samtidigt utpressades ytterligare en person i Ho Chi Minh-staden på upp till 2 miljarder dong om han inte ville att den känsliga videon skulle spridas. Ministeriet för offentlig säkerhet har ingripit och identifierat många transnationella kriminella grupper, främst från Kina och Sydostasien, bakom dessa linjer och använder skräp-SIM-kort, e-plånböcker och sociala nätverksplattformar för att dölja sina identiteter.

Detta är inte längre en liten bedrägeri utan en form av "högteknologisk psykologisk krigföring", som djupt utnyttjar rädslan för heder och sociala relationer för att sätta press på offret. Om du inte ökar din vaksamhet, dina färdigheter i att identifiera information och ditt ovanliga beteende kan vem som helst bli "byte" i händerna på brottslingar som använder högteknologi. Inför denna sofistikerade våg av förfalskning måste varje medborgare vara uppmärksam, absolut inte dela personlig information urskillningslöst och vara redo att säga ifrån för att fördöma olagliga handlingar, vilket bidrar till att skydda sin egen och samhällets säkerhet.

En "digital sköld" från samhället behövs för att bekämpa hotet från deepfakes.

Enligt departementet för radio, tv och elektronisk information (ministeriet för kultur, sport och turism) var digitala plattformar i Vietnam under 2024 tvungna att ta bort mer än 4 000 videor som innehöll falsk och förvrängd information, varav de flesta var produkter skapade med AI-teknik som deepfake, röstklon... Bara TikTok – en plattform som är populär bland unga – ombads att ta bort mer än 1 300 deepfake-klipp, främst relaterade till polis, regering och socialpolitik.

I en tid av teknologisk explosion öppnar artificiell intelligens upp banbrytande möjligheter, men medför också exempellösa faror, särskilt deepfake-produkter med förvrängt innehåll, vilket attackerar offentliga myndigheters rykte. En undersökning av MICRI Media Research Institute visar att: 62 % av användarna av sociala medier i Vietnam kan inte skilja mellan äkta och falskt utan varningar från etablerade medier eller myndigheter. Detta är en "kognitiv lucka" som onda krafter utnyttjar flitigt för att sprida falsk information, vilket orsakar sociala psykologiska störningar.

Tong Van T. på polisstationen.

Enligt generalmajor, docent dr Do Canh Thin, en expert på kriminologi, är det ett nytt men särskilt farligt knep att använda AI för att skapa falska videor av ledare, redigera falska uttalanden eller förvränga polisens professionella agerande. ”Deepfake är inte bara en underhållningsprodukt, utan en form av modern informationskrigföring, som kan förstöra förtroende, orsaka social instabilitet och är mycket svår att kontrollera”, kommenterade generalmajor Do Canh Thin.

Faktum är att AI-manipulerade klipp inte är ofarliga, utan ofta berör de känsliga ämnen som hantering av överträdelser, utredning av brott, bekämpning av korruption etc., vilket gör att människor blir förvirrade och misstänksamma mot brottsbekämpande myndigheter. Ännu mer oroande är att många videor delas på stora plattformar som YouTube och TikTok med hundratusentals visningar innan de tas bort, vilket skapar en negativ viral effekt.

Digitalmedieexperten Hoang Minh varnar: ”Med bara en delning eller ett gilla-markering utan att vara försiktig kan du bli en facilitator av falska nyheter. Varje internetanvändare behöver förstå att beteende i det digitala rummet också har verkliga konsekvenser.”

I detta sammanhang behövs det mer än någonsin att bygga en "digital sköld" från själva samhället: det vill säga vaksamhet, informationsimmunitet och ansvar för nätverksmiljön. Tekniken må vara neutral, men hur människor använder den kommer att avgöra om AI blir en drivkraft för utveckling eller en kraft som förstör socialt förtroende. Att upprätthålla den ideologiska fronten och skydda bilden av folkets säkerhetssoldat är att skydda grunden för nationell säkerhet, en uppgift inte bara för den funktionella sektorn, utan också för varje medborgare i den digitala tidsåldern.

Kommentar (0)