Policie v Ho Či Minově Městě: Buďte opatrní s „temnou stránkou“ technologie tvorby videa s umělou inteligencí Veo 3

Công an TP.HCM: Cẩn trọng với ‘mặt trái’ của công nghệ tạo video AI Veo 3 - Ảnh 1. — Nová technologie umělé inteligence pro generování videa nabízí uživatelům mnoho příležitostí, ale také s sebou nese rizika.

Policie v Ho Či Minově městě 9. července uvedla, že díky práci v oblasti přijímání hlášení a odhalování trestných činů nebyly zaznamenány žádné případy podvodů s využitím technologie pro tvorbu videa AI Veo 3. Lidé však musí být také ostražitější, protože kromě pozitivních aspektů může být tato technologie zneužita zločinci k páchání nezákonných činů.

Podle Oddělení kybernetické bezpečnosti a prevence kriminality v oblasti high-tech (PA05) policie v Ho Či Minově městě se generativní aplikace umělé inteligence – známé také jako umělá inteligence (jako je Swapface, SoraAI, ChatGPT, Deepseek...), které uživatelům umožňují vytvářet videa, obrázky, živé přenosy se změnami hlasu a obličeje, stávají stále populárnějšími.

Koncem května 2025 společnost Google vydala nástroj Google Veo 3, novou technologii pro tvorbu videí s využitím umělé inteligence, která způsobuje rozruch na populárních platformách sociálních sítí, jako je Facebook, X..., a to díky možnosti vytvářet obrázky, obsah a pohyby postav i pozadí, zejména pak díky možnosti automaticky vytvářet zvukové efekty a dabing na vyžádání, což mnoha divákům ztěžuje rozlišení, zda se jedná o produkt umělé inteligence nebo skutečnou scénu.

Kromě pozitivních účinků (velký potenciál v oblasti tvorby obsahu, vzdělávání , kinematografie, médií...) může být tato technologie zneužita k páchání nezákonných činů.

Například z obrázku osoby mohou útočníci využít technologii Veo 3 k automatické „extrakci“ mnoha důležitých informací, jako například: rozpoznání obličeje majitele fotografie; geografická poloha, kam osoba na fotografii často chodí; často používané produkty a služby; životní návyky... a tím znovu vytvořit obličej a hlas pouze s obrázky a zvuky převzatými z kyberprostoru; odtud vytvořit realistickou „digitální kopii“.

Známým trikem podvodníků využívajících technologii umělé inteligence je, že po vytvoření „digitální kopie“ nechají někoho, kdo se vydává za příbuzného nebo příslušný orgán (policii, soud, státní zastupitelství, daňový úřad, nemocnici atd.), aby s nimi zavolal videohovorem a požádal je o provedení žádosti, nebo předstírají paniku a zavolají záchranku, aby zneužili úzkosti oběti; jakmile oběť převede peníze, podvodník okamžitě „zmizí“.

Kromě toho mohou padouši tento nástroj použít i k dalším nelegálním účelům, jako je: pornografický obsah, šíření falešných informací... k vydírání majetku.

Podle PA05 budou zločinci i v budoucnu zneužívat rozvoj vědy a techniky k vykořisťování, provozování a páchání nezákonných činů. Znalosti a povědomí lidí o identifikaci, sebeprevenci a bdělosti jsou přitom stále omezené.

Aby se v nadcházejícím období zlepšila účinnost boje proti podvodným aktivitám přivlastňování si majetku v kyberprostoru, bude městská policie i nadále informovat Ministerstvo veřejné bezpečnosti, aby radila straně a státu zdokonalování právního rámce, státního řízení bezpečnosti a pořádku a mobilizovala masy k účasti na hnutí všeho lidu na ochranu národní bezpečnosti na místní úrovni, aby se zvýšilo povědomí a bdělost a zvýšila se účinnost v prevenci a odhalování podvodných aktivit přivlastňování si majetku v kyberprostoru.

Policie Ho Či Minova města dále doporučuje lidem následující:

Buďte ostražití vůči zprávám a hovorům z neznámých čísel týkajícím se neočekávaných situací; pečlivě kontrolujte, ověřujte a zjišťujte přesnost informací; v žádném případě neposlouchejte, nedodržujte pokyny, nepřevádějte peníze dle požadavků padouchů, nepřistupujte k odkazům neznámého původu zasílaným ve zprávách, e-mailech atd.

Omezte zveřejňování obsahu souvisejícího s osobními údaji na veřejných platformách sociálních sítí... abyste zabránili krádeži informací, jako jsou obrázky, videa, hlasy, ze strany zlomyslných lidí; zároveň nastavte osobní účty na sociálních sítích do soukromého režimu, abyste ochránili informace; instalujte online aplikace pouze z oficiálních zdrojů operačního systému telefonu (Chip Play, AppStore).

V případě zjištění, že jste byli podvedeni výše uvedeným způsobem, nebo podezření, že jste byli podvedeni výše uvedeným způsobem, měli byste se neprodleně ohlásit na nejbližší policejní stanici, kde vám bude poskytnuta včasná podpora a řešení.

Komentář (0)