Dávejte si pozor na falešné zprávy generované umělou inteligencí.

Ve skutečnosti mají zlomyslní aktéři mnoho kanálů, jak využít produkty generované umělou inteligencí k podkopání naší strany a státu.

V digitálním věku přinesla umělá inteligence (AI) mnoho výhod, ale také představuje vážné hrozby. Jednou z nich je zneužívání AI zlomyslnými aktéry k vytváření falešného obsahu, jako jsou deepfaky – technika, která využívá AI k vkládání tváří, hlasů a obrázků do falešných videí nebo zvuku.

Způsobuje nedorozumění a zmatek.

Ve Vietnamu se tento problém stává stále závažnějším, zejména proto, že nepřátelské síly používají deepfakes ke zkreslování situace v zemi, hanobení stranických a státních vůdců a vytváření mylných představ a zmatků mezi veřejností. Deepfakes se používají nejen k finančním podvodům, ale slouží také sociopolitickým účelům a ohrožují národní bezpečnost.

Uprostřed rozsáhlého zneužívání umělé inteligence se tvorba falešného obsahu stala hlavní hrozbou pro informační bezpečnost a sociální stabilitu. Ukázkovým příkladem je webová stránka Thoibao.de, kterou založil a provozuje Le Trung Khoa z Berlína v Německu.

Le Trung Khoa (nedávno odsouzený k 17 letům vězení a v současné době je hledán) se samozvaně prohlásil za „šéfredaktora“ webu Thoibao.de. Tento web se zaměřoval na vietnamské politické, ekonomické a sociální otázky z kritického hlediska a často publikoval články a videa, která zkreslovala situaci v zemi. Zejména videa generovaná umělou inteligencí s využitím deepfake technologie, která napodobovala obrazy a hlasy některých stranických a státních vůdců, způsobila vážné škody.

Le Trung Khoa používal umělou inteligenci k úpravě a vytváření falešných videí se senzačními titulky, aby přilákal diváky. Například si vymýšlel klipy projevů vůdců, zkresloval obsah o hospodářské politice, protikorupčním úsilí nebo mezinárodních vztazích a snadno klamal diváky. To vedlo k poklesu důvěry v oficiální informace, což vyvolalo skepsi a sociální nestabilitu. Podle bezpečnostních složek se na sociálních sítích šířily tisíce článků a videí z Thoibao.de, které ovlivnily miliony uživatelů – především ve Vietnamu.

Technologičtí experti si vyměňují informace o rozšířenosti podvodných videí s deepfake. Foto: Noviny Lidové armády

Videa a informace generované umělou inteligencí jsou ještě škodlivější, když poškozují pověst stranických a státních vůdců a ohrožují národní bezpečnost. Úřady to označily za úmyslný čin, který kyberprostor proměňuje v systematický nástroj pro podvratnou činnost. Škoda se šíří sdílením těchto videí na Facebooku a TikToku, což způsobuje vnitřní rozpory a narušuje národní jednotu.

Videa a informace generované umělou inteligencí představují také dlouhodobé hrozby pro kybernetickou bezpečnost a zdravý digitální prostor. Tato videa zneužívají rychlého šíření informací, kdy se jeden klip dostane k milionům lidí během několika hodin. Nejenže ovlivňují jednotlivce, ale mohou být také zneužity v informační válce, podobně jako v mezinárodních případech. Existence stránek, jako je Thoibao.de, zdůrazňuje potřebu zvýšeného mezinárodního dohledu.

Je nutná koordinovaná akce.

V současné době se umělá inteligence stala téměř systematickým nástrojem sabotáže, způsobuje zmatek, pomlouvá vůdce a ohrožuje národní stabilitu.

Prvním škodlivým důsledkem je vytváření mylných představ o situaci v zemi. Zlomyslní aktéři mohou vytvářet falešná videa o ekonomických a sociálních událostech, jako jsou vymýšlení informací o inflaci, přírodních katastrofách nebo vnitřních konfliktech, což vyvolává veřejnou paniku a vede k negativnímu chování, jako je hromadění zboží nebo hromadné výběry peněz.

Ještě vážnější je, že deepfaky se často zaměřují na vůdce strany a státu. Zlomyslní aktéři si vymýšlejí prohlášení vůdců, například vkládají nepravdivé poznámky do videí, aby poškodili jejich pověst a vytvořili obraz „korupce“ nebo „nekompetentnosti“. Například nepřátelské síly vytvářejí videa vůdců, kteří pronášejí „nepravdivá prohlášení“ o zahraniční nebo bezpečnostní politice, což způsobuje vnitřní rozpory a narušuje důvěru veřejnosti ve stranu.

Abychom s tím bojovali, potřebujeme koordinovaný postup od jednotlivců až po vládu. V první řadě je klíčové zvyšování povědomí veřejnosti. Lidé se musí naučit identifikovat deepfake: věnovat pozornost nepřirozeným pohybům obličeje, nesourodým pohybům úst, neobvyklému zvuku a osvětlení nebo rozmazanému a zkreslenému pozadí. Měl by se uplatňovat princip „dvojitého ověřování“: nedůvěřujte okamžitě neznámým videím, volejte zpět oficiálními kanály, ptejte se na podrobnosti, které zná pouze skutečná osoba, a odkládejte naléhavé kroky. Kromě toho omezte sdílení osobních obrázků a hlasových nahrávek online, abyste se vyhnuli jejich zneužití pro trénink umělé inteligence.

Z technologického hlediska jsou investice do detekce deepfake zásadní. To zahrnuje použití softwaru s umělou inteligencí k analýze obsahu, identifikaci nesrovnalostí nebo nástrojů, jako jsou digitální vodoznaky, k označování falešného obsahu. Platformy sociálních médií, jako je Facebook a TikTok, by měly nařizovat označování pomocí umělé inteligence a vláda by měla od vývojářů vyžadovat integraci ochranných opatření od zdroje.

Právní rámce hrají klíčovou roli. Je třeba zlepšit specifické zákony, platformy, které nekontrolují obsah, by měly být přísně trestány a je zapotřebí mezinárodní spolupráce pro sdílení technologií pro boj s deepfaky. Úřady by měly posílit dohled, zavést komunikační kampaně a využívat umělou inteligenci k filtrování falešných zpráv.

Boj proti deepfakes vyžaduje soustředěné úsilí: individuální bdělost, společenské vzdělávání a rozhodné vládní kroky. Pouze tak můžeme chránit zdravý digitální prostor, udržet důvěru a zajistit národní stabilitu tváří v tvář „bouři“ falešných informací generovaných umělou inteligencí.

Celkově vzato, škody způsobené deepfaky sahají daleko za jednotlivce a ovlivňují společnost jako celek. Zesilují dezinformace a mění internet v temný, zastiňující prostor s alarmující rychlostí šíření.

To nejen poškozuje osobní čest, ale také ohrožuje základy demokracie, ekonomiky a národní bezpečnosti, zejména v kontextu rychlé digitální transformace Vietnamu.

Zdroj: https://nld.com.vn/canh-giac-truoc-thong-tin-gia-mao-do-ai-tao-lap-196260308162106804.htm