Od obrázků a videí po písně s umělou inteligencí: Pozor na „tornádo“ obsahu s umělou inteligencí na sociálních sítích

trí tuệ nhân tạo - Ảnh 1. — Stále více obrázků a videí upravených a přidaných umělou inteligencí je zveřejňováno na sociálních sítích, aby přilákaly zhlédnutí - Foto: DUC THIEN

Pokud si v minulosti museli běžní uživatelé pro vytvoření falešné fotografie najmout experty na Photoshop, dnes se s umělou inteligencí za méně než 5 minut a s několika základními dovednostmi může sada falešných fotografií objevit všude.

Když umělá inteligence vytváří obrázky, videa, písničky... tak reálné, že je těžké tomu uvěřit

Paní Hoan My (HCMC) z oddělení komunikace, která pravidelně denně surfuje na Facebooku, uvedla, že uživatelé zveřejňují stále více obsahu s využitím nástrojů umělé inteligence.

„Existuje mnoho fotografií zveřejněných přáteli nebo členy skupiny, které jsou tak reálné, že bych nedokázala poznat, zda byla použita umělá inteligence, kdyby to neřekli. Stále více videí, od animací, imaginativních výtvorů až po krátké filmy nebo videa týkající se událostí, které se odehrávají v reálném životě, je vytvořeno pomocí nástrojů umělé inteligence, ale já bych to nedokázala zjistit,“ sdělila paní My.

Nejen obrázky a videa, ale i na sociální síti YouTube je mnoho písní v podání nebo složených „zpěváky s umělou inteligencí“. Mnoho uživatelů je z nového zážitku nadšených a předhánějí se v jeho sdílení na sociálních sítích se svými přáteli.

„Nedokážu rozeznat, jestli je to zpěvák s umělou inteligencí, pokud to nebude oznámeno. Obsah s umělou inteligencí je ve vietnamském kyberprostoru stále rozšířenější. Běžní uživatelé jako já pravděpodobně brzy nebudou vědět, který obsah pochází od skutečných lidí, který je od umělé inteligence nebo do kterého umělá inteligence zasáhla,“ řekl Khanh Ha (HCMC).

V poslední době mnoho vietnamských platforem sociálních sítí zveřejnilo videa a živé přenosy prodávající produkty od lidí se zdravotním postižením, což zvýšilo soucit a sdílení online komunity.

Online komunita však později odhalila mnoho případů používání umělé inteligence k přeměně normálních lidí na osoby se zdravotním postižením. Účelem tohoto triku je zneužít soucit diváků k prodeji zboží nebo k podvodným akcím.

Mnoho technologických expertů uvádí, že v poslední době se na sociálních sítích objevuje stále větší počet účtů, které zveřejňují prodejní videa s obrázky lidí se zdravotním postižením, nemocných nebo znevýhodněných lidí, aby vyvolaly soucit. Realita však ukazuje, že velká část tohoto obsahu je vytvářena nebo upravována pomocí nástrojů umělé inteligence, které mění obyčejné lidi na lidi se zdravotním postižením za účelem zisku nebo podvodu.

V rozhovoru s Tuoi Trem varoval pan Milko Radotic, viceprezident společnosti iProov – předního světového poskytovatele technologií biometrického ověřování – pro asijsko- pacifický region: „Náš výzkum ukazuje, že 99,9 % účastníků nedokáže rozpoznat deepfake. I dnešní pokročilé detekční nástroje čelí mnoha obtížím.“

Zvyšte odolnost digitálních uživatelů

Pan Dang Huu Son – zástupce ředitele Institutu pro aplikovaný výzkum a rozvoj lidských zdrojů AIOV, zakladatel a generální ředitel společnosti LovinBot AI Company – uvedl, že od doby, kdy Google uvedl na trh technologii umělé inteligence Nano Banana a Veo 3, ByteDance uvedl Seedream 4 a předtím OpenAI uvedl GPT Image, je trh s umělou inteligencí extrémně rušný a přinesl s sebou i mnoho důsledků.

„Technologie nebyla nikdy tak dostupná jako dnes. Jde o extrémně výkonné modely umělé inteligence, které dokáží „kopírovat obličeje“ téměř z 90 %, ba dokonce z 99 % oproti původní fotografii,“ poznamenal pan Son.

Pokud si v minulosti museli běžní uživatelé najmout experty na Photoshop, aby vytvořili falešnou fotografii, pak s dnešní umělou inteligencí se za méně než 5 minut s několika základními dovednostmi může sada falešných fotografií, falešné video, které je vystřiženo a vloženo a má přidané efekty podobné zprávám, šířit závratnou rychlostí.

„Falešné zprávy se opakují mnohokrát, s vysokou hustotou a snadným přístupem, takže velké množství lidí, kteří s nimi denně přicházejí do styku, uvěří, že jsou pravdivé. Proto jsou potřeba řešení, která by výše uvedené problémy omezila,“ poznamenal pan Son.

Podle pana Trinha Nguyen Thien Phuoc - technologického ředitele společnosti Gianty Vietnam, jsou pro rozlišení obsahu generovaného umělou inteligencí zapotřebí tři vrstvy: (1) dovednosti ověřování uživatelů (spolu se zlatými pravidly); (2) technické nástroje, jako jsou Content Credentials (C2PA), identifikační znaky vodoznaků (SynthID, AudioSeal) a detektor deepfake; (3) koordinační proces mezi souvisejícími stranami, jako jsou: platformy, síťoví operátoři, banky...

Zejména je nutné velmi rychle dodržet zlaté pravidlo, a to do 30–60 sekund, a to včetně: neklikejte na podivné odkazy a ověřte si platnost v oficiální aplikaci/na oficiálních webových stránkách; okamžitě přestaňte, když narazíte na klíčová slova, která vynucují akci (jednorázové heslo/převod peněz/urgentní).

Zároveň by si uživatelé měli ověřit informace u dvou nezávislých zdrojů, než něčemu uvěří; zkontrolovat datum, čas a kontext (staré zprávy maskované jako nové); zavolat zpět na oficiální číslo, které jste si sami našli, nepoužívat číslo poskytnuté jinými; pomocí obrázků a videí mohou uživatelé vyhledávat související výsledky...

Mnoho odborníků se domnívá, že nejzákladnějším řešením pro zvládnutí vlny falešného obsahu vytvářeného umělou inteligencí je zvýšení povědomí veřejnosti. Místo zaměření se pouze na technická opatření je nutné vytvářet školicí programy, soutěže nebo simulovat reálné situace, které lidem pomohou změnit jejich informační návyky.

Pro mladé lidi, zejména studenty, může kombinace online soutěží, mediálních kampaní s celebritami nebo KOL vytvořit přirozenou přitažlivost, která jim pomůže učit se a získávat zkušenosti a zároveň zvládnout dovednosti v rozpoznávání falešných zpráv a falešných videí. Senioři, zejména ve venkovských oblastech, naopak potřebují známější a intuitivnější formy, jako jsou ilustrované letáky, instruktážní videa nebo promítání v kulturních domech a při komunitních aktivitách.

„Přístup vhodný pro každou skupinu lidí pomůže vytvořit solidní a dlouhodobý základ pro povědomí, místo abychom se zastavili pouze u krátkodobých aktivit. Některé jednotky například vyvinuly rozšíření, která lze nainstalovat do prohlížeče Chrome, aby uživatelům pomohly ověřovat si zprávy při prohlížení webu nebo sociálních sítí...“, uvedl pan Dang Huu Son.

Použití umělé inteligence k detekci falešné umělé inteligence

Společnost Honor nedávno integrovala do své nově uvedené řady telefonů funkci AI Deepfake Detection. Tato funkce dokáže analyzovat obrázky a hlasy během 3 sekund a varovat před padělky přímo v aplikacích, jako jsou Messenger, Zalo, Viber nebo Google Meet, čímž se stává „digitálním štítem“ chránícím uživatele před podvody v oblasti high-tech.

Již dříve, v září 2025, společnost MoMo oznámila spolupráci se společností iProov na nasazení technologie Dynamic Liveness, která má pomoci ověřit, zda jsou uživatelé skuteční, mají správnou identitu a jsou přítomni v době transakce, a zabránit tak podvodům s využitím deepfake, falešných videí nebo obrázků.

Ve vysoce rizikových odvětvích, jako jsou finance, je tato úroveň zabezpečení klíčová pro prevenci podvodů, zamezení neoprávněnému přístupu a udržení důvěry uživatelů v platformu.

Zpět k tématu

CTNOST

Zdroj: https://tuoitre.vn/tu-hinh-anh-video-den-ca-khuc-ai-can-trong-con-loc-noi-dung-ai-tren-mang-xa-hoi-20251109232702736.htm