Identifiera taktiker som används av AI för att förvränga information.

Att använda artificiell intelligens (AI) för att iscensätta bilder av konflikter mellan väpnade styrkor eller för att förfalska tv-nyhetsrapporter håller på att bli en farlig trend på sociala medier. Utöver ren underhållning utnyttjas denna praxis av illvilliga aktörer för att förvränga sanningen, störa allmän ordning och säkerhet, och kräver att varje medborgare är vaksam.

Polisen i Thai Nguyen har utfärdat en varning till personer som använder AI-applikationer för att publicera falsk information relaterad till VTV-nyhetssändningar i underhållningssyfte.

Nyligen surrade internet av bilder som skildrade en våldsam sammandrabbning mellan trafikpolis och militär, som påstås ha ägt rum i Thai Nguyen-provinsen. Dessa bilder manipulerades skickligt med hjälp av artificiell intelligens (AI) och orsakade utbredd förvirring bland användare av sociala medier.

Reaktionära element i landsförvisningar har utnyttjat läsarnas nyfikenhet att använda AI-teknik för att skapa påhittade scenarier och sensationell information. Deras syfte är inte bara att locka till sig interaktion, utan den lömska planen som gömmer sig inuti är att hetsa upp den allmänna opinionen och allvarligt skada de väpnade styrkornas anseende.

Förutom politiska konspirationsteorier bidrar en del av befolkningen idag också "vårdslöst" till spridningen av falska nyheter genom vad de anser vara "roliga" trender.

För inte så länge sedan upptäckte och hanterade immigrationsavdelningen (Thai Nguyen Provincial Police) fallet med herr MPQ (bosatt i Linh Son Ward, Thai Nguyen). Herr Q. använde en AI-applikation på sin telefon för att lägga sitt ansikte över en intervjubild från ett nyhetsprogram på VTV1 och publicerade den sedan på sin personliga Facebooksida med innehåll avsett som "humoristiskt och underhållande".

Inlägget lockade hundratals interaktioner och orsakade informationsstörningar. På polisstationen, trots att Mr. Q. erkände att hans avsikt endast var för underhållning, påverkade hans handling att använda logotypen och innehållet från ett nyhetsprogram för att skapa falsk information nyhetsbyråns rykte negativt. Med tanke på överträdelsens art utfärdade myndigheterna en varning, begärde att innehållet skulle tas bort och fick ett åtagande att inte upprepa brottet.

Med tanke på den ökande sofistikeringen av skadlig, giftig, falsk och felaktig information som skapas med hjälp av AI-teknik, behöver människor bygga ett starkt mentalt "filter" för att skydda sig i cyberrymden.

Samtidigt är det oerhört viktigt att känna igen tecken på AI-teknik; användare bör vara uppmärksamma på ovanliga detaljer som läpprörelser som inte matchar tal, ansiktsbelysning som inte överensstämmer med sammanhanget eller visningsfel som är karakteristiska för Deepfakes för att undvika att falla i fällan med falska nyheter.

I synnerhet måste varje individ vara tydligt medveten om att lagen strängt förbjuder all utgivning av statliga myndigheter, inklusive obehörig användning av logotyper och bilder av polis, militär eller mediebolag för att skapa falskt innehåll, även om det bara är i skämtsyfte.

Dessutom krävs försiktighet vid hantering av okända AI-applikationer som begär ansiktsdata för att förhindra risken för läckage av personlig information och för att undvika att utnyttjas av illvilliga aktörer för bedrägerier.

Källa: https://baothainguyen.vn/phap-luat/202605/nhan-dien-thu-doan-dung-ai-xuyen-tac-thong-tin-61a666f/