Dualita umělé inteligence

Je načase, aby se každý uživatel stal „digitálním štítem“, byl ostražitý, bdělý a zodpovědný při každém kliknutí a sdílení.

Výhody a tenká hranice umělé inteligence

Umělá inteligence nikdy předtím nebyla tak blízko každodennímu životu. Stačí jen pár kliknutí a krátký příkaz, abychom mohli vytvářet hlasy, obrázky a dokonce i videa s ohromující realismem. Umělá inteligence šetří čas, snižuje náklady na produkci obsahu a otevírá cestu éře flexibilních digitálních médií.

Právě tato schopnost „realisticky simulovat realitu“ se však stala dvousečnou zbraní. Sociální média v poslední době zaplavují videa vytvořená pomocí technologie deepfake, v nichž jsou tváře policejních vůdců a snímky policistů v citlivých případech manipulovány a zkreslovány dabingem, aby uvedly veřejnost v omyl a rozdělily ji.

Podobné inscenované snímky se na sociálních sítích objevují stále častěji.

Ve virálním klipu na TikToku byly obrázky dopravního policisty ve službě vedle sebe promítány urážlivé dialogy doprovázené hashtagem „pokuty jen pro parádu“, což naznačovalo, že policista zneužil svou moc k osobnímu prospěchu. Mnoho uživatelů, zejména mladých lidí, tomuto obsahu snadno uvěřilo, protože vizuální prvky byly velmi realistické a hlas se věrně shodoval s pohyby rtů, takže bylo extrémně obtížné rozlišit mezi skutečností a falešným.

Mladý youtuber z Dien Bien za to, že se chtěl „pochlubit“ svými dovednostmi v oblasti umělé inteligence, zaplatil správní pokutou a vynucenou veřejnou omluvou. Odpoledne 24. ledna oznámila provinční policie v Dien Bien, že oddělení kybernetické bezpečnosti a prevence kriminality v oblasti high-tech uložilo správní pokutu ve výši 7,5 milionu dongů Tong Van T. (narozen v roce 2001, bydliště v okrese Muong Ang) za použití umělé inteligence k vytvoření smyšleného videa obsahujícího zkreslený a urážlivý obsah o dopravních policistech.

Konkrétně 7. ledna nahrála T. na svůj YouTube účet „Tuyen Vlog“ video dlouhé přes 3 minuty se šokujícím názvem: „Když jsem byla venku, pronásledovala mě dopravní policie.“ V klipu byly snímky a situace zinscenovány pomocí technologie umělé inteligence, simulovaly pronásledování občanů dopravní policií a byly kombinovány s efekty a komentáři, které byly urážlivé a hanlivé vůči orgánům činným v trestním řízení.

Ve spolupráci s policií T. přiznal, že celý obsah klipu byl vykonstruovaným produktem vytvořeným pro „zábavné“ účely a k demonstraci jeho schopnosti používat technologii umělé inteligence. Kromě pokuty úřady T. nařídily, aby falešné video odstranil a veřejně se omluvil dopravní policii na svém osobním kanálu YouTube.

V éře digitální revoluce , zejména rychlého rozvoje umělé inteligence, nepřátelské a reakční síly neváhaly zneužít tento nástroj k vytváření vykonstruovaných obrazů a příběhů, jejichž cílem je zkreslit a poškodit image Vietnamské lidové policie. Fotografie, která nedávno kolovala na sociálních sítích a na které je těhotná žena v policejní uniformě ohrožována dvěma muži s „gangsterským“ vzhledem, je jasným důkazem této taktiky.

Obrázek, vytvořený pomocí umělé inteligence, se nedávno stal virálním na sociálních sítích.

Na první pohled by si diváci mohli snadno splést tuto scénu se skutečnou událostí, doprovázenou senzačními titulky typu: „Chudák chlapec zachrání těhotnou policistku, kterou napadli gangsteři, a nevědomky odhalí případ, který šokuje celý národ...“. Ve skutečnosti se však jedná pouze o zinscenovanou scénu, možná z filmu nebo zábavního produktu, nebo ještě hůř, o obraz vytvořený umělou inteligencí, aby oklamala emoce čtenáře a vedla ho k lítosti a pochybnostem o autenticitě orgánů činných v trestním řízení.

Ještě znepokojivější je, že šíření takového obsahu nejen poškozuje pověst a image Lidové policie, která dnem i nocí pracuje na ochraně bezpečnosti a pořádku společnosti, ale také představuje sofistikovanou formu psychologické války. Když je důvěra lidí v úřady narušena klamnými obrazy, postupně se projeví skryté úmysly nepřátelských sil rozdělit národní jednotu.

Proto by měl každý občan zvýšit svou bdělost, rozvíjet kritické myšlení a schopnost identifikovat falešné informace a rozhodně odsuzovat a vyvracet falešný obsah, čímž by přispěl k ochraně ideologických základů a udržení sociální stability tváří v tvář současné vlně škodlivých informací na internetu.

V Ho Či Minově Městě se na sociálních sítích nečekaně rozšířil téměř minutový videoklip, který ukazuje osobu v policejní uniformě, jak v kanceláři „nutí“ podezřelého k přiznání k dopravnímu přestupku. Na videu osoba, o které se předpokládá, že je policista, projevuje agresivní přístup, neustále křičí a dokonce používá vulgární jazyk, což vyvolává veřejné pobouření.

Krátce poté, co se klip stal virálním, však policie v Ho Či Minově městě provedla rychlé vyšetřování a potvrdila, že se jedná o sofistikovaný deepfake. Podle jejich zjištění byly tváře ve videu extrahovány ze záznamu interní policejní konference a poté zmanipulovány zlými úmysly pomocí technologie umělé inteligence, aby je vložily do zinscenované scény, což vedlo diváky k domněnce, že se jedná o skutečnou událost.
Zejména doprovodný zvuk obsahuje výhružné a urážlivé hlasy, které ve skutečnosti nejsou skutečnými slovy žádného úředníka, ale spíše syntetizovanými hlasy umělé inteligence, naprogramovanými a upravenými tak, aby oklamaly emoce diváka.

Tento incident je ukázkovým příkladem použití technologie deepfake ke zkreslování a hanobení Lidové policie, což je taktika, kterou stále častěji zneužívají reakční a podvratné síly v kyberprostoru. Je důležité, že pokud nejsou takové falešné produkty včas odhaleny, mohou vést k vážným následkům: podkopávání důvěry veřejnosti v orgány činné v trestním řízení, podněcování odporu v rámci komunity a usnadňování šíření falešných narativů. To slouží jako jasné varování před naléhavou potřebou posílit komunikační schopnosti k vyvrácení, odhalování a boji proti falešným zprávám a vyzývá každého občana, aby byl ostražitý a zdržel se ukvapeného sdílení nebo komentování neověřeného obsahu z oficiálních zdrojů.

V dalším nedávném případě, týkajícím se řešení nesrovnalostí v centru technické kontroly vozidel na jihu, šířily nepřátelské elementy falešné video, na kterém vedoucí provinční policie hovoří na obranu zkorumpovaných úředníků. Tento klip, šířený na Telegramu a sociálních sítích s názvem „podporováno mocnými silami“, byl ve skutečnosti produktem umělé inteligence a neobjevil se na žádných tiskových konferencích ani v oficiálních dokumentech.

Na internetu se tiše šíří nebezpečný trend: útočníci využívají technologii umělé inteligence k vytváření falešných videí za účelem podvodů a vydírání. V poslední době se mnoho lidí stalo obětí, když jsou jejich fotografie, zejména fotografie společensky respektovaných osob, jako jsou právníci, lékaři a podnikatelé, vkládány do videí propagujících „náhradu peněz ztracených v online podvodech“.

V těchto klipech se umělá inteligence používá k napodobování hlasu a obličeje právníků, což diváky nutí uvěřit podvodníkům a snadno jim poskytnout osobní údaje nebo jim převést peníze. Ještě nebezpečnější je, že někteří pachatelé používají technologii deepfake k vložení tváří obětí do sexuálních videí a poté je posílají manželům/manželkám nebo kolegům s úmyslem je vyhrožovat nebo donutit k převodu peněz za „mlčení“.

V březnu 2025 došlo k šokujícímu incidentu, kdy byla oběť v Hanoji požádána o převod desítek milionů dongů poté, co obdržela falešné sexuální video s ní. Mezitím byla v Ho Či Minově Městě jiná osoba vydírána a dostala 2 miliardy dongů, pokud si nepřeje, aby se citlivé video šířilo. Ministerstvo veřejné bezpečnosti zahájilo vyšetřování a identifikovalo několik nadnárodních zločineckých skupin, zejména z Číny a jihovýchodní Asie, které za těmito sítěmi používají jednorázové SIM karty, elektronické peněženky a platformy sociálních médií k utajení své identity.

Toto už není malicherný podvod, ale forma „high-tech psychologické války“, která hluboce zneužívá strach o čest a sociální vztahy k vyvíjení tlaku na oběti. Bez zvýšené ostražitosti a dovedností v identifikaci neobvyklých informací a chování se může kdokoli stát kořistí těchto high-tech zločinců. Tváří v tvář této sofistikované vlně vydávání se za jiného člověka musí být každý občan ostražitý, absolutně se zdržet sdílení osobních údajů bez rozdílu a musí být připraven vystoupit proti nezákonným aktivitám a přispět tak k ochraně své vlastní bezpečnosti i bezpečnosti komunity.

Pro boj s hrozbou deepfakes je potřeba „digitální štít“ ze strany komunity.

Podle Ministerstva pro vysílání, televizi a elektronické informace (Ministerstvo kultury, sportu a cestovního ruchu) musely digitální platformy ve Vietnamu v roce 2024 odstranit více než 4 000 videí obsahujících nepravdivé a zkreslené informace, z nichž většina byly produkty vytvořené pomocí technologie umělé inteligence, jako jsou deepfaky a hlasové klony. Jen TikTok – platforma oblíbená u mladých lidí – byl požádán o smazání více než 1 300 deepfake klipů, které se týkaly především policie, vlády a sociální politiky.

V éře technologického boomu umělá inteligence odemyká průlomový potenciál, ale zároveň přináší bezprecedentní nebezpečí, zejména deepfake produkty obsahující zkreslený obsah, který útočí na pověst vládních agentur. Průzkum provedený Institutem pro výzkum médií MICRI ukazuje, že 62 % uživatelů sociálních médií ve Vietnamu nedokáže rozlišit mezi skutečnými a falešnými informacemi bez varování od mainstreamových médií nebo úřadů. Jedná se o „kognitivní mezeru“, kterou zlomyslné síly důkladně zneužívají k šíření dezinformací a narušování sociální psychologie.

Tong Van T. na policejní stanici.

Podle generálmajora, docenta a doktora Do Canh Thina, experta na kriminologii, je používání umělé inteligence k vytváření falešných videí, která vydávají vůdce, upravují nepravdivá prohlášení nebo zkreslují profesionální jednání policejních sborů, novou, ale obzvláště nebezpečnou taktikou. „Deepfake není jen zábavní produkt, ale forma moderní informační války, která je schopna podkopat důvěru, způsobit sociální nestabilitu a je velmi obtížné ji kontrolovat,“ uvedl generálmajor Do Canh Thin.

Ve skutečnosti nejsou klipy manipulované umělou inteligencí zdaleka neškodné; často se zaměřují na citlivá témata, jako je řešení porušení předpisů, vyšetřování trestných činů a boj s korupcí, což způsobuje zmatek veřejnosti a nedůvěru v orgány činné v trestním řízení. Ještě znepokojivější je, že mnoho videí je sdíleno na velkých platformách, jako jsou YouTube a TikTok, a než jsou odstraněna, získávají stovky tisíc zhlédnutí, což vytváří negativní dominový efekt.

Expert na digitální média Hoang Minh varuje: „Jen jedno neopatrné sdílení nebo lajk z vás může udělat komplice na falešné zprávy. Každý uživatel internetu musí pochopit, že i činy v digitálním prostoru mají reálné důsledky.“

V této souvislosti je více než kdy jindy potřeba vybudovat „digitální štít“ zevnitř samotné komunity: tedy bdělost, informační imunitu a smysl pro odpovědnost vůči online prostředí. Technologie mohou být neutrální, ale to, jak je lidé používají, určí, zda se umělá inteligence stane hnací silou rozvoje, nebo destruktivní silou proti společenské důvěře. Udržování ideologické neochvějnosti a ochrana image policisty chrání základy národní bezpečnosti – úkol nejen pro příslušné orgány, ale pro každého občana v digitálním věku.

Zdroj: https://baolangson.vn/tinh-hai-mat-cua-ai-5050403.html