Dualita umělé inteligence

Umělá inteligence (AI) otevírá mnoho příležitostí, ale stává se také nebezpečným nástrojem, když je zneužívána k vytváření falešných deepfake videí, která zkreslují obraz policie a vlády a podněcují veřejné mínění. Tyto sofistikované klipy nejen narušují důvěru v úřady, ale jsou také sofistikovanou formou psychologické války v kyberprostoru.

Je načase, aby se každý uživatel stal „digitálním štítem“, byl ostražitý, bdělý a zodpovědný za každé kliknutí a sdílení.

Výhody a tenká hranice umělé inteligence

Umělá inteligence nikdy nebyla blíže životu než dnes. Stačí pár kliknutí, krátký příkaz, aby se vytvořily hlasy, obrázky, a dokonce i videa s ohromujícím realismem. Umělá inteligence pomáhá šetřit čas, snižovat náklady na produkci obsahu a otevírat éru flexibilních digitálních médií.

Schopnost „realisticky simulovat“ se však stala dvousečnou zbraní. Na sociálních sítích se v poslední době neustále objevují videa vytvořená technologií deepfake, v nichž jsou tváře policejních velitelů, snímky funkčních sil v citlivých případech... vystřiženy a vloženy, nadabovány zkreslenými hlasy, aby vyvolaly nedorozumění a rozdělily lidi.

Podobné inscenované snímky se na sociálních sítích objevují stále častěji.

V klipu kolujícím na TikToku byl obrázek dopravního policisty ve službě doprovázen urážlivými dialogy a hashtagem „fajn jen tak“, aby naznačoval, že tento policista zneužívá svou moc k osobnímu prospěchu. Mnoho uživatelů, zejména mladých lidí, tomuto obsahu snadno uvěřilo, protože obrázek byl tak realistický a hlas se tvarem tak blížil ústům, že bylo extrémně obtížné rozlišit mezi skutečným a falešným.

Jen proto, že se mladý YouTuber z Dien Bien chtěl „pochlubit“ svou schopností aplikovat technologii umělé inteligence, musel za to zaplatit administrativní pokutou a veřejnou omluvou. Odpoledne 24. ledna oznámila provinční policie v Dien Bien, že oddělení kybernetické bezpečnosti a prevence kriminality v oblasti high-tech vydalo rozhodnutí o administrativní pokutě ve výši 7,5 milionu VND pro Tong Van T. (narozen v roce 2001, bydliště v okrese Muong Ang) za použití umělé inteligence k vytvoření falešného videa se zkresleným obsahem a urážku dopravní policie.

Konkrétně 7. ledna T. nahrál na YouTube účet „Tuyền Vlog“ video dlouhé více než 3 minuty se šokujícím názvem: „Když jsem se tu bavil, pronásledovala mě dopravní policie“. V klipu byly snímky a situace zinscenovány pomocí technologie umělé inteligence, simulující pronásledování lidí dopravní policií, v kombinaci s efekty a komentáři, které byly urážlivé a hanlivé vůči úřadům.

Ve spolupráci s policií T. přiznal, že celý obsah klipu byl falešným produktem, jehož účelem bylo „zábavné“ demonstrovat schopnost používat technologii umělé inteligence. Kromě pokuty úřady požádaly T. o odstranění výše uvedeného falešného videa a o veřejnou omluvu dopravní policii na jeho osobním kanálu YouTube.

V éře exploze digitálních technologií , zejména rychlého rozvoje umělé inteligence, nepřátelské a reakční síly neváhaly využít tohoto nástroje k vytváření vykonstruovaných obrazů a příběhů s cílem zkreslit a pošpinit image Vietnamských lidových sil veřejné bezpečnosti. Fotografie, která v poslední době koluje na sociálních sítích, na které je těhotná žena v policejní uniformě ohrožována dvěma muži s „gangsterským“ vzhledem, je jasnou ukázkou tohoto triku.

Fotografie vygenerovaná umělou inteligencí se nedávno stala virální na sociálních sítích.

Na první pohled si diváci mohou snadno splést tuto scénu se skutečnou událostí, doprovázenou senzačním titulkem typu: „Chudák chlapec zachrání těhotnou policistku před bitím gangstery, nečekaně otevře případ, který šokuje celou zemi...“. Ve skutečnosti se však jedná pouze o zinscenovanou scénu, možná z filmu nebo zábavního produktu, nebo ještě hůř, o obrázek vytvořený umělou inteligencí, aby oklamala emoce čtenářů a vedla je k lítosti a pochybnostem o autenticitě činnosti orgánů činných v trestním řízení.

Ještě znepokojivější je, že šíření takového obsahu nejen poškozuje pověst a image Lidových sil veřejné bezpečnosti, které ve dne v noci chrání bezpečnost a pořádek ve společnosti, ale je také sofistikovanou formou psychologické války. Když je důvěra lidí v úřady narušena falešnými obrazy, hluboký cíl nepřátelských sil rozdělit velký blok národní jednoty se postupně naplní.

Proto musí každý občan zvýšit svou bdělost, mít kritické myšlení a dovednosti k rozpoznávání falešných informací a rozhodně odsuzovat a vyvracet falešný obsah, čímž přispívá k ochraně ideologických základů a udržování sociální stability proti současné vlně toxických informací v kyberprostoru.

V Ho Či Minově Městě se na sociálních sítích náhle stal téměř minutový klip, který zachycuje scénu, jak osoba v policejní uniformě „vynucuje doznání“ od pachatele v kanceláři. Na videu má osoba, o které se předpokládá, že je policista, drsný přístup, neustále křičí a hubuje, dokonce používá i hrubá slova, což vyvolává pobouření veřejnosti.

Nicméně ihned poté, co se klip stal virálním, policie v Ho Či Minově městě provedla rychlé vyšetřování a potvrdila, že se jedná o sofistikovaný deepfake produkt. Podle závěru byl obličej ve videu extrahován ze záznamu interní konference policejních sborů a poté byl pomocí technologie umělé inteligence padouchy vložen do zinscenované scény, což diváky mylně přimělo věřit, že se jedná o skutečnou akci.
Zejména doprovodný zvuk obsahuje výhružný, urážlivý hlas, který ve skutečnosti neodpovídá skutečným slovům žádného úředníka, ale je syntetizovaným hlasem umělé inteligence, naprogramovaným a upraveným tak, aby oklamal emoce diváka.

Tento incident je typickým příkladem použití deepfake technologie ke zkreslování a hanobení Lidových sil veřejné bezpečnosti, což je trik, který stále častěji zneužívají reakční a protivládní síly v kyberprostoru. Stojí za zmínku, že pokud nejsou takové falešné produkty včas odhaleny, mohou vést k vážným následkům: otřást důvěrou lidí v donucovací složky, podnítit odpor v komunitě a vytvořit podmínky pro šíření falešných argumentů. Toto je jasné varování před naléhavou potřebou zlepšit mediální kapacitu vyvracet, odhalovat a bojovat proti falešným zprávám a zároveň vyzývá každého občana, aby byl ostražitý a nespěchal se sdílením nebo komentováním neověřeného obsahu z oficiálních zdrojů.

V dalším nedávném případě, týkajícím se řešení přestupků v centru technické kontroly vozidel na jihu, šířily nepřátelské subjekty falešné video, na kterém vedoucí provinční policie hovoří na obranu chybujících policistů. Tento klip se šířil na Telegramu a sociálních sítích s názvem „podporováno mocnými silami“, ale ve skutečnosti se jednalo o produkt umělé inteligence a vůbec se neobjevil na žádné tiskové konferenci ani v oficiálním dokumentu.

V kyberprostoru se tiše šíří nebezpečný trend, kdy zločinci využívají technologii umělé inteligence k vytváření falešných klipů za účelem podvodu a vydírání. V poslední době se mnoho lidí stalo obětí, když jsou jejich fotografie, zejména fotografie prestižních osobností, jako jsou právníci, lékaři a podnikatelé, sestříhány do reklamních videí „s cílem vymáhat peníze získané podvody online“.

V těchto klipech se umělá inteligence používá k napodobení hlasu a obličeje právníka, čímž si diváci vytvářejí důvěru a podvodníkovi tak snadno poskytují osobní údaje nebo převádějí peníze. Ještě nebezpečnější je, že některé subjekty také používají technologii deepfake k vložení obličeje oběti do sexuálních videí a následnému posílání těchto videí jejich manželům, manželům nebo kolegům s cílem vyhrožovat jim a donutit je k převodu peněz, aby „věc zůstala v tajnosti“.

V březnu 2025 došlo k šokujícímu incidentu, kdy byla oběť v Hanoji požádána o převod desítek milionů dongů poté, co obdržela falešný sexuální klip s vlastním obrázkem. Mezitím byla v Ho Či Minově Městě jiná osoba vydírána až 2 miliardami dongů, pokud si nepřeje, aby se citlivé video šířilo. Ministerstvo veřejné bezpečnosti zasáhlo a identifikovalo mnoho nadnárodních zločineckých skupin, zejména z Číny a jihovýchodní Asie, které se za těmito liniemi pohybují a používají k utajení své identity spamové SIM karty, elektronické peněženky a platformy sociálních sítí.

Nejedná se již o drobný podvod, ale o formu „high-tech psychologické války“, která hluboce zneužívá strachu ze cti a sociálních vztahů k vyvíjení tlaku na oběť. Pokud nezvýšíte svou bdělost, dovednosti v identifikaci informací a neobvyklém chování, může se kdokoli stát „kořistí“ v rukou zločinců využívajících špičkové technologie. Tváří v tvář této sofistikované vlně padělání musí být každý občan ostražitý, v žádném případě nesdílet osobní údaje bez rozdílu a být připraven promluvit a odsoudit nezákonné činy, čímž přispěje k ochraně své bezpečnosti a bezpečnosti komunity.

Pro boj s hrozbou deepfake je potřeba „digitální štít“ ze strany komunity.

Podle Ministerstva pro rozhlas, televizi a elektronické informace (Ministerstvo kultury, sportu a cestovního ruchu) musely digitální platformy ve Vietnamu v roce 2024 odstranit více než 4 000 videí obsahujících nepravdivé a zkreslené informace, z nichž většina byly produkty vytvořené pomocí technologie umělé inteligence, jako je deepfake, klonování hlasu... Jen TikTok – platforma oblíbená u mladých lidí – byl požádán o odstranění více než 1 300 deepfake klipů, které se týkaly především policejních sil, vlády a sociální politiky.

V éře technologické exploze otevírá umělá inteligence průlomový potenciál, ale také s sebou nese bezprecedentní nebezpečí, zejména deepfake produkty se zkresleným obsahem, které útočí na pověst veřejných institucí. Průzkum provedený Institutem pro výzkum médií MICRI ukazuje, že: 62 % uživatelů sociálních médií ve Vietnamu nedokáže rozlišit mezi skutečným a falešným bez varování od mainstreamových médií nebo úřadů. Toto je „kognitivní mezera“, kterou zlé síly důkladně zneužívají k šíření falešných informací, což způsobuje sociálně-psychologické poruchy.

Tong Van T. na policejní stanici.

Podle generálmajora, docenta Dr. Do Canha Thina, experta na kriminologii, je používání umělé inteligence k vytváření falešných videí vedoucích představitelů, úpravě nepravdivých prohlášení nebo zkreslování profesionálních jednání policejních sborů novým, ale obzvláště nebezpečným trikem. „Deepfake není jen zábavní produkt, ale forma moderní informační války, která je schopna zničit důvěru, způsobit sociální nestabilitu a je velmi obtížné ji kontrolovat,“ poznamenal generálmajor Do Canh Thin.

Klipy manipulované umělou inteligencí ve skutečnosti nejsou neškodné, ale často se dotýkají citlivých témat, jako je řešení porušení pravidel, vyšetřování trestných činů, boj s korupcí atd., což způsobuje, že jsou lidé zmatení a podezřívaví vůči orgánům činným v trestním řízení. Ještě znepokojivější je, že mnoho videí je sdíleno na velkých platformách, jako jsou YouTube a TikTok, a než jsou odstraněna, mají stovky tisíc zhlédnutí, což vytváří negativní virální efekt.

Expert na digitální média Hoang Minh varuje: „Pouhým jedním sdílením nebo jedním lajkem se bez opatrnosti můžete stát zprostředkovatelem falešných zpráv. Každý uživatel internetu by měl pochopit, že chování v digitálním prostoru má také reálné důsledky.“

V této souvislosti je více než kdy jindy potřeba vybudovat „digitální štít“ vůči samotné komunitě: tedy bdělost, informační imunitu a odpovědnost za síťové prostředí. Technologie mohou být neutrální, ale to, jak je lidé používají, určí, zda se umělá inteligence stane hnací silou rozvoje, nebo silou, která ničí společenskou důvěru. Udržování ideologické fronty a ochrana image vojáka veřejné bezpečnosti je ochranou základů národní bezpečnosti, což je úkol nejen funkčního sektoru, ale i každého občana v digitálním věku.

Zdroj: https://baolangson.vn/tinh-hai-mat-cua-ai-5050403.html