Umělá inteligence se stává zbraní psychologické války pro kyberzločince

(Dan Tri) - Umělá inteligence se stává děsivým nástrojem kyberzločinců, schopným vytvářet deepfake scénáře a manipulovat s psychologií obětí.

Na akci promluvil generálmajor Le Xuan Minh, ředitel odboru kybernetické bezpečnosti a prevence kriminality v oblasti high-tech (Foto: NCA).

Ráno 15. listopadu oficiálně vstoupila do finálového kola studentské soutěže v kybernetické bezpečnosti 2025.

Soutěž pořádala Národní asociace pro kybernetickou bezpečnost pod záštitou Ministerstva veřejné bezpečnosti a Ministerstva školství a odborné přípravy. V rámci akce proběhla diskuse na téma Ochrana jednotlivců a organizací před kybernetickými útoky v digitálním věku: Proaktivní identifikace a reakce na potenciální rizika.

V diskusi se Dr. Huynh Thi Thanh Binh, zástupkyně ředitele Fakulty informačních technologií a komunikací Hanojské univerzity vědy a techniky, podělila o příběh zahraniční studentky, kterou znala a která se nedávno stala obětí extrémně sofistikovaného technologického podvodu.

V tomto případě se podvodník vydával za policistu a falešně obvinil oběť z účasti na drogové transakci.

Nejenže manipulovali s oběťmi a žádali je o převod peněz na vyšetřování, ale také eskalovali jejich psychologii do té míry, že je nutili „svléknout se“, aby si mohli pořídit fotografie, a poté tyto citlivé snímky použili k vydírání rodiny.

Odborníci v diskusním bloku (Foto: NCA).

Příběh načrtává děsivou realitu: umělá inteligence (AI) se oficiálně stala zbraní psychologické války.

Už se nejedná o ojedinělé podvody. Pan Ngo Tuan Anh, generální ředitel společnosti Vietnam Data Security Joint Stock Company, uvedl, že za pouhý jeden rok se počet phishingových útoků založených na umělé inteligenci zvýšil dvacetkrát.

Proč je umělá inteligence tak nebezpečná?

Plukovník Dr. Nguyen Hong Quan, vedoucí oddělení bezpečnosti dat a ochrany osobních údajů Národní asociace pro kybernetickou bezpečnost, uvedl, že technologie deepfake nyní potřebuje k napodobení lidského hlasu pouze asi 30 sekund.

Stejný názor sdílí i pan Ngo Minh Hieu, ředitel Organizace pro boj proti podvodům, který uvedl, že kyberzločinci dnes nemusí být nutně vynikajícími hackery. Nyní si mohou najmout speciálně navržené nástroje umělé inteligence.

„Nyní existuje celý podzemní trh, kde se umělá inteligence upravuje pro zločince a prodává se v měsíčních balíčcích, stejně jako si za ni platí uživatelé ChatGPT.“

„Za pouhých 200–300 dolarů měsíčně si kdokoli může vlastnit nástroj s umělou inteligencí, který automaticky sestavuje podvodné skripty, prověřuje oběti a dokonce vytváří viry obsahující škodlivý kód, jako je ransomware,“ sdělil pan Hieu.

Výnosná návnada pro hackery

Jednou z nejprudších front ve válce s umělou inteligencí je digitální identifikace (eKYC). Vietnam má v současné době až 27 milionů účtů otevřených s elektronickou identifikací. V očích hackerů je to „tučná návnada“.

Pan Phan Trong Quan, vedoucí oddělení pro hodnocení informační bezpečnosti skupiny VNPT , vysvětlil, že zločinci již nepoužívají základní triky, jako je vkládání identifikačních čísel nebo QR kódů na falešné dokumenty. Nyní používají technologii deepfake, aby mohli kopírovat identifikační část.

Nejsofistikovanější metodou je útok „Man-in-the-Middle“. Když uživatel provádí video autentizaci, například otočí obličej nebo čte příkazy, hacker se postaví doprostřed, aby mohl zasahovat do přenášených dat.

„Vkládají předpřipravená deepfake videa, která nahrazují skutečný datový tok uživatele, aby obešli ověřování. Bankovní a finanční systém sice „uvidí“ falešnou tvář, ale bude věřit, že je skutečná,“ varoval pan Quan.

Podle pana Vu Duy Hiena, zástupce generálního tajemníka Národní asociace pro kybernetickou bezpečnost, jsou studenti přední silou v první linii ochrany národní digitální suverenity (Foto: NCA).

Jediným řešením útoků s rychlostí stroje je použití „štítu“, který také funguje rychlostí stroje. Odborníci tvrdí, že se jedná o válku s umělou inteligencí.

Pan Phan Trong Quan odhalil, jak VNPT přezbrojuje umělou inteligenci pro obranu. Systém VNPT místo pouhé analýzy obličejových snímků využívá umělou inteligenci k detekci neobvyklého chování.

Technologie je založena na behaviorální biometrii – analýze drobných detailů, které lidé nemohou vnímat, ale umělá inteligence ano.

Umělá inteligence bude analyzovat, jak uživatelé drží telefon. Skutečný uživatel bude vnímat přirozené chvění a pohyby. Zároveň způsob, jakým prsty uživatele interagují s obrazovkou, vytvoří různé tepelné zóny. Umělá inteligence se tento zvyk naučí rozlišovat mezi skutečnými lidmi a boty.

Všechna tato data jsou vkládána do „strojového učícího se systému“, který využívá neuronové sítě. Pokud umělá inteligence zjistí, že se aktuální chování neobvykle liší od historických dat, zablokuje účet a uzamkne obchodní seanci dříve, než dojde k jakékoli škodě.

Nejslabším faktorem jsou lidé

I ten nejsilnější „štít“ umělé inteligence se však stane k ničemu, pokud lidé otevřou dveře nepřátelům.

Odborníci se shodují: Lidé jsou nejslabším článkem v jakémkoli obranném organizačním modelu.

Pan Hoang Manh Duc, vedoucí výzkumné skupiny pro systémovou bezpečnost na Univerzitě FPT, uvedl, že obranný model „vysoké zdi, hlubokého příkopu“ je zastaralý. Éra cloudu a internetu věcí vyžaduje novou strategii: „Nulová důvěra“.

Filozofie nulové důvěry (Zero Trust) spočívá v tom, že nebudeme důvěřovat žádnému připojení, žádnému zařízení, ať už internímu nebo externímu, vše musí být velmi přísně ověřeno.

Technologie je ale jen částí rovnice. Nguyen Duc Duy, hlavní inženýr řešení ve společnosti Huawei Vietnam, zdůraznil důležitost neměnných záloh – to znamená, že je nelze přepsat, smazat ani upravit – v kombinaci se zcela izolovanými oddíly, aby bylo zajištěno, že data lze po útoku ransomwaru vždy obnovit.

Dr. Doan Trung Son, ředitel programu kybernetické bezpečnosti na Univerzitě Phenikaa, poukázal na to, že problémem Vietnamu je nedostatek „kultury kybernetické bezpečnosti“.

Tato kultura není čistě technologickou otázkou, je to otázka lidí a musí být implementována shora dolů, počínaje povědomím o vedení.

Boj za ochranu kyberprostoru Vietnamu je novou frontou v obraně vlasti. Aby Vietnam zvítězil, podniká kroky na všech třech pilířích: technologii, právo a především lidi.

Zdroj: https://dantri.com.vn/cong-nghe/ai-dang-tro-thanh-vu-khi-chien-tranh-tam-ly-cua-toi-pham-mang-20251115171410658.htm