Policie v Ho Či Minově Městě: Pozor na „temnou stránku“ technologie tvorby videa Veo 3 s umělou inteligencí.

Přestože dosud nebyly zaznamenány žádné případy podvodů s využitím technologie Veo 3 AI pro tvorbu videa, policejní oddělení Ho Či Minova města naléhavě žádá občany o ostražitost, protože tato technologie by mohla být zneužita zlými úmysly k páchání nezákonných činů.

Nové technologie pro tvorbu videa s využitím umělé inteligence nabízejí uživatelům mnoho příležitostí, ale také představují potenciální rizika.

Dne 9. července policie v Ho Či Minově městě oznámila, že na základě hlášení a oznámení o trestných činech nezaznamenala žádné případy podvodů s využitím technologie pro tvorbu videa Veo 3 s umělou inteligencí. Veřejnost by však měla zůstat ostražitá, protože kromě pozitivních aspektů by tato technologie mohla být zneužita zločinci k páchání nezákonných činů.

Podle oddělení kybernetické bezpečnosti a prevence kriminality v oblasti high-tech (PA05) policie v Ho Či Minově městě se generativní aplikace umělé inteligence (jako například Swapface, SoraAI, ChatGPT, Deepseek atd.), které uživatelům umožňují vytvářet videa, obrázky a živé přenosy se změněnými hlasy a obličeji, stávají stále populárnějšími.

Koncem května 2025 společnost Google vydala Google Veo 3, nový nástroj pro tvorbu videí s využitím umělé inteligence, který v současné době vytváří senzaci na populárních platformách sociálních médií, jako jsou Facebook a Netflix. Jeho schopnost vytvářet obrázky, obsah a pohyb pro postavy i pozadí, zejména jeho schopnost automaticky generovat zvukové efekty a dabing na vyžádání, ztěžuje mnoha divákům rozlišování mezi obsahem generovaným umělou inteligencí a skutečnými záběry.

Kromě pozitivních účinků (velký potenciál v oblasti tvorby obsahu, vzdělávání , filmu, médií atd.) může být tato technologie zneužita jednotlivci k páchání nezákonných činů.

Například mohou útočníci využít technologii Veo 3 z obrázku osoby k automatické extrakci důležitých informací, jako jsou: rysy obličeje osoby; zeměpisné lokality, které často navštěvuje; produkty a služby, které často používá; její každodenní návyky atd., a tím rekonstruovat její obličej a hlas pouze s použitím obrázků a zvuků převzatých z internetu; a vytvořit tak realistický „digitální klon“.

Běžnou taktikou, kterou podvodníci využívající technologii umělé inteligence používají, je vytvoření „digitálního klonu“ a nechat podvodníka vydávat se za příbuzného nebo úředníka (policii, soud, státní zastupitelství, daňový úřad, nemocnici atd.), aby uskutečňoval videohovory, požadoval konkrétní akce nebo předstíral paniku a naléhavou úzkost, aby zneužil úzkosti oběti; jakmile oběť převede peníze, podvodník okamžitě zmizí.

Kromě toho mohou zločinci tento nástroj použít i k dalším nezákonným účelům, jako je: distribuce pornografického obsahu, šíření dezinformací atd., k vydírání peněz.

Podle PA05 budou zločinci i v budoucnu nadále zneužívat pokroky ve vědě a technice k provádění nelegálních aktivit. Mezitím zůstávají znalosti a povědomí veřejnosti o identifikaci, prevenci a ostražitosti vůči takovým aktivitám omezené.

Aby se v nadcházejícím období zlepšila účinnost boje proti online podvodům a krádežím majetku, bude městská policie i nadále informovat Ministerstvo veřejné bezpečnosti, aby radila straně a státu v oblasti zdokonalování právního rámce a státního řízení bezpečnosti a pořádku a mobilizovala veřejnost k účasti na celostátním hnutí na ochranu národní bezpečnosti na místní úrovni, čímž se zvýší povědomí a zvýší se účinnost prevence a odhalování online podvodů a krádeží majetku.

Policejní oddělení Ho Či Minova města dále radí občanům v následujících bodech:

Buďte ostražití vůči zprávám a hovorům z neznámých čísel obsahujícím neočekávané informace; pečlivě kontrolujte, ověřujte a potvrzujte přesnost informací; v žádném případě neposlouchejte, nedodržujte pokyny ani nepřevádějte peníze požadované podvodníky a nepřistupujte k odkazům z neznámých zdrojů zaslaným ve zprávách nebo e-mailech.

Omezte zveřejňování obsahu obsahujícího osobní údaje na veřejných platformách sociálních médií, abyste se vyhnuli možnosti, že by zlomyslní aktéři ukradli informace, jako jsou obrázky, videa a hlasové nahrávky; zároveň si nastavte své osobní účty na sociálních médiích do soukromého režimu, abyste ochránili své informace; a instalujte online aplikace pouze z oficiálních zdrojů operačního systému vašeho telefonu (Chip Play, AppStore).

V případě, že zjistíte nebo máte podezření, že jste byli podvedeni pomocí výše uvedených metod, měli byste to okamžitě nahlásit nejbližší policejní stanici, kde vám bude včas poskytnuta pomoc a řešení.

DAN THUAN - CHAU TUAN

Zdroj: https://tuoitre.vn/cong-an-tp-hcm-can-trong-voi-mat-trai-cua-cong-nghe-tao-video-ai-veo-3-20250709172731831.htm