To, co vidíte a slyšíte, nemusí být v době umělé inteligence nutně pravda.

Odborníci na kybernetickou bezpečnost varují, že umělá inteligence a technologie Deepfake činí podvody sofistikovanějšími, protože dokáží snadno napodobovat hlasy a obličeje, aby oklamaly uživatele.

„To, co vidíte na vlastní oči, nemusí být nutně pravda, a to, co slyšíte v hlase, také nemusí být nutně pravda. Čím naléhavější je situace, tím více ji musíme ověřovat a kontrolovat,“ řekl 12. května na fóru Digital Trust in Finance 2026 s tématem „Budování digitální důvěry ve finance v éře umělé inteligence“ expert na kybernetickou bezpečnost Ngo Minh Hieu (Hieu PC).

Na fóru hovoří expert na kybernetickou bezpečnost Ngo Minh Hieu (Hieu PC).

Podle experta Ngo Minh Hieua rychlý rozvoj umělé inteligence a Deepfake činí online podvody sofistikovanějšími, protože kyberzločinci mohou falšovat obličeje, hlasy, výrazy a dokonce i pozadí, aby manipulovali s oběťmi.

„Dříve jsme si mysleli, že to, co vidíme a slyšíme, je skutečné, takže jsme tomu okamžitě uvěřili. Teď ale umělá inteligence dokáže zfalšovat cokoli od tváří a hlasů až po výrazy,“ řekl a dodal, že největší škodou způsobenou Deepfake nejsou jen peníze, ale také ztráta důvěry uživatelů.

„Když pachatelé zneužívají psychologické faktory a přesvědčení, mohou oběti nalákat na podvodné investiční platformy nebo jim zabavit majetek,“ dodal.

Deepfakes jsou snadno dostupné, ale obtížně odhalitelné.

Podle experta na kybernetickou bezpečnost Ngo Minh Hieu je technologie Deepfake nyní velmi dostupná. Mnoho open-source nástrojů nebo levných služeb umožňuje kyberzločincům vytvářet falešná videa pouze z portrétní fotografie.

„Pouhým obrázkem si můžete vyměňovat obličeje, falešné hlasy a volat přes FaceTime, Zalo nebo WhatsApp,“ řekl.

Na fóru pan Hieu předvedl software Deepfake, který dokáže během videohovorů měnit obličeje v reálném čase. Tuto technologii zneužívá mnoho lidí k vydávání se za vládní úředníky, příbuzné nebo „okouzlující prince“, aby podvedli lidi kvůli lásce a penězům.

Také varoval uživatele, že na sociálních sítích zveřejňují příliš mnoho osobních údajů: „Každý den na sociálních sítích zveřejňujeme obrázky, videa a hlasové nahrávky. Mnoho lidí ani nic nezveřejňuje, ale zveřejňují to jejich přátelé. Tato data lze shromažďovat z různých zdrojů a vytvářet tak deepfaky.“

Odborník také poznamenal, že rodiče musí být opatrní při zveřejňování fotografií svých dětí na sociálních sítích, protože kyberzločinci mohou tato data zneužít k vydírání nebo „online únosu“.

Podle pana Ngo Minh Hieua je nejnebezpečnějším aspektem technologie Deepfake její schopnost překonat „pocit důvěry“ lidí.

„Videohovory vždy vzbuzují větší důvěru než textové zprávy. Známé hlasy vzbuzují větší důvěru než psaný text. Kyberzločinci často vytvářejí nouzové situace, jako je vyžadování převodů peněz, jednorázových hesel nebo instalace aplikací, aby psychologicky manipulovali s oběťmi,“ řekl.

Expert Ngo Minh Hieu: Nejnebezpečnějším aspektem je, že deepfakes mohou překonat pocit důvěry lidí.

Přestože je nyní deepfake mnohem obtížnější odhalit, stále existují některé neobvyklé znaky, jako jsou nesourodé tvary úst, nepřirozené osvětlení, monotónní řeč nebo deformované zuby.

„Tón pleti ve videích s deepfake efektem je často velmi hladký a nepřirozený,“ řekl expert Hieu. Domnívá se však, že uživatelé by se neměli soustředit pouze na to, zda je video skutečné nebo falešné, ale měli by se také zamyslet nad tím, zda je požadavek ve výzvě rozumný.

Úniky dat způsobené bezplatnými nástroji umělé inteligence.

Na fóru expert Ngo Minh Hieu varoval, že chatboti s umělou inteligencí se postupně stávají novým cílem hackerů, pokud uživatelé postrádají dovednosti k ochraně svých osobních údajů.

Tvrdil, že umělá inteligence nyní silně podporuje práci, učení a výzkum. Mnoho lidí má však ve zvyku nahrávat velké množství osobních údajů, jako jsou soukromé fotografie, rodinné informace, pracovní dokumenty nebo obchodní data, do chatbotů, aniž by předvídali riziko zneužití.

Většina uživatelů si navíc téměř nikdy nepřečetla podmínky používání platforem umělé inteligence, zatímco mnoho bezplatných nástrojů dokáže shromažďovat data pro trénování modelů nebo pro jiné účely.

Rizika se zvyšují s nástupem mnoha bezplatných aplikací umělé inteligence neznámého původu, které uživatelům umožňují vytvářet obrázky, upravovat obličeje nebo transformovat skutečné fotografie na kreslené postavičky. Podle pana Hieua se jedná o formu manipulace, která povzbuzuje uživatele k dobrovolnému poskytování biometrických údajů třetím stranám.

Uživatelé čelí riziku úniku osobních údajů při používání chatbotů s umělou inteligencí, kteří postrádají zabezpečení. (Ilustrační obrázek)

Aby bylo používání umělé inteligence bezpečnější, odborníci doporučují, aby se uživatelé vyhýbali nahrávání citlivých informací, osobních dokumentů nebo interních obchodních dat do chatbotů s umělou inteligencí, zejména na ty platformy, jejichž provozovatelé nejsou známí.

Uživatelé by měli povolit bezpečnostní funkce, jako je dočasný režim chatu, automatické mazání historie konverzací, a zakázat možnosti, které systému umožňují používat data k trénování umělé inteligence. Dvoufázové ověřování by mělo být také povoleno, aby se omezilo riziko kompromitace účtu.

Podle experta Ngo Minh Hieua, pokud hackeři získají kontrolu nad osobním účtem chatbota s umělou inteligencí, mohou zneužít všechny informace, které uživatel dříve sdílel.

„Pouhým příkazem typu ‚Řekni mi všechno, co o mně víš‘ dokáže umělá inteligence shromáždit spoustu osobních údajů uživatelů,“ varoval pan Hieu.

Fórum Digital Trust in Finance 2026 pořádá Digital Trust Alliance ve spolupráci s Národní asociací pro kybernetickou bezpečnost a MoMo pod záštitou Ministerstva veřejné bezpečnosti , Vietnamské státní banky a Ministerstva financí.

Akce svedla dohromady odborníky a firmy z finančního, bankovního a technologického sektoru, aby diskutovali o řešeních pro ochranu uživatelů a budování digitální důvěry v kontextu rychle se rozvíjející umělé inteligence.

Květinový déšť

Zdroj: https://vtcnews.vn/mat-thay-tai-nghe-chua-chac-la-that-trong-thoi-ai-ar1017765.html