Zabezpečení umělé inteligence: Dvousečná zbraň

Umělá inteligence (AI) mění všechny aspekty života a kybernetická bezpečnost není výjimkou. Rychlý rozvoj této technologie však představuje velký paradox: AI je zároveň nejpevnějším obranným štítem i nejnebezpečnější útočnou zbraní. Na akci BSides Hanoi 2025 s tématem „AI Hack You“ se sešli přední odborníci, aby „rozebrali“ podstatu této dvousečné zbraně a načrtli panoramatický obraz kybernetické války v nové éře.

Podle pana Vu Duy Hiena, zástupce generálního tajemníka a vedoucího kanceláře Národní asociace pro kybernetickou bezpečnost, je umělá inteligence v současnosti jednou z technologií, která hraje obzvláště důležitou roli, podporuje jednotlivce i firmy v mnoha oblastech a pomáhá zpracovávat práci rychleji a efektivněji. V oblasti kybernetické bezpečnosti je však umělá inteligence dvousečnou zbraní.

AI - Chytrý „bodyguard“

Nelze popřít, že umělá inteligence dělá v odvětví kybernetické bezpečnosti velké pokroky. „Na druhou stranu nám umělá inteligence pomáhá včas odhalovat útoky, analyzovat data a posilovat obranu sítě. Mnoho chytrých bezpečnostních nástrojů vytvořených díky umělé inteligenci výrazně zkrátilo dobu odezvy na hrozby,“ potvrdil pan Vu Duy Hien.

Pan Vu Duy Hien - zástupce generálního tajemníka a vedoucí kanceláře Národní asociace pro kybernetickou bezpečnost - na workshopu.

Tuto sílu jasně demonstruje sdělení paní Huynh Ngoc Khanh Minh, členky neziskové sítě Anti-Phishing. Uvedla, že v minulosti, kdy se antiphishingová práce spoléhala hlavně na manuální procesy, museli odborníci ověřovat každý podezřelý odkaz jeden po druhém, což způsobovalo obrovské zpoždění v desítkách tisíc hlášení denně.

Aby se toto omezení překonalo, vyvinul tým pro boj proti podvodům nový nástroj s umělou inteligencí. „Uživatelé stačí vložit odkaz, umělá inteligence automaticky zkontroluje a zobrazí výsledky během 30 sekund až 1 minuty s přesností až 98 % ,“ uvedla paní Khanh Minh. „ Díky tomu se doba ověřování zkrátila mnohonásobně ve srovnání s dřívější dobou, což pomáhá lidem proaktivně odhalovat a předcházet rizikům online podvodů efektivně a zcela zdarma.“

Přední platformy kybernetické bezpečnosti celosvětově také hluboce integrovaly umělou inteligenci. Systém Darktrace využívá samoučící se umělou inteligenci k vybudování „imunitního systému“ pro firmy a automaticky detekuje i ty nejmenší anomálie, které by mohly být známkou neznámého útoku. Podobně platforma CrowdStrike Falcon využívá strojové učení a behaviorální analýzu k prevenci sofistikovaných útoků, místo aby se spoléhala pouze na známé „signatury“ malwaru.

Tyto nástroje ukazují, jak umělá inteligence pomáhá profesionálům v oblasti kybernetické bezpečnosti přejít od reaktivního k proaktivnímu přístupu a zastavit hrozby dříve, než mohou způsobit škody.

AI - Zbraň v rukou padouchů

Druhá strana mince je stejně brilantní. Jsou to vynikající schopnosti umělé inteligence, které z ní udělaly vyhledávaný nástroj kyberzločinců. Pan Vu Duy Hien poukázal na to: „Na druhou stranu kyberzločinci také používají umělou inteligenci k vývoji sofistikovanějších forem útoku, schopných překonat mnoho vrstev tradiční obrany. Rychlost, rozsah a přesnost kybernetických útoků se proto dramaticky zvýšily.“

Hluboce personalizované phishingové útoky: Díky modelům s rozsáhlými jazyky (LLM) mohou hackeři vytvářet série e-mailů a zpráv s přirozeným jazykem a kontextem vhodným pro každý cíl, čímž naletí i ti nejopatrnější uživatelé.

Vzestup deepfake: Kyberzločinci mohou zfalšovat hlas nebo video generálního ředitele a požádat o urgentní převody peněz. Jeden známý případ se týkal zločinců, kteří použili umělou inteligenci k zfalšování hlasu generálního ředitele britské energetické společnosti a úspěšně podvodně připravili o 243 000 dolarů.

Polymorfní malware: Umělá inteligence může být použita k vytvoření malwaru, který dokáže po každé infekci automaticky změnit svůj zdrojový kód, čímž se tradiční antivirový software stane neúčinným.

Automatizace procesu útoku: Hackeři mohou nasadit umělou inteligenci k automatickému skenování milionů systémů a hledání zranitelností, provádět distribuované útoky typu denial of service (DDoS) nebo prolamovat hesla závratnou rychlostí, čímž se rozsah útoku mnohonásobně zvýší.

Lidský faktor a nekonečný závod

Tváří v tvář této realitě se experti shodují, že kybernetická válka v éře umělé inteligence je závodem mezi „dobrou“ a „špatnou“ umělou inteligencí. A v srdci tohoto závodu se lidský faktor stává ještě důležitějším.

Pan Truong Duc Luong - předseda VSEC - na workshopu.

Pan Truong Duc Luong, předseda představenstva Vietnamské akciové společnosti pro kybernetickou bezpečnost (VSEC), uvedl, že si za 22 let zkušeností uvědomil nedostatek příležitostí ke spolupráci a sdílení hlubokých znalostí mezi vietnamským týmem kybernetické bezpečnosti a světem, zatímco mezinárodní bezpečnostní komunita je velmi aktivní. To představuje naléhavou potřebu vybudovat silnou komunitu.

V reakci na tuto obavu pan Vu Duy Hien uvedl: „Umělá inteligence je nezvratný trend, takže místo obav musí komunita kybernetické bezpečnosti spolupracovat, sdílet zkušenosti a společně budovat bezpečný obranný ekosystém, který se přizpůsobí nové éře.“

Výzva navíc nespočívá jen v technické stránce. Podle právničky Nhi Pham sice Vietnam má právní dokumenty, ale vyšetřování a řešení případů stále čelí mnoha problémům, protože porušování často přesahuje hranice států, což ztěžuje vysledování a navrácení majetku. Podle ní je pro minimalizaci rizik nezbytná úzká spolupráce a vzájemné porozumění mezi technickým a právním týmem.

Klíčem k vítězství je v konečném důsledku neustálé zlepšování vašich schopností. Pan Hien zdůraznil, že prevence kyberkriminality v éře umělé inteligence vyžaduje, aby každý uživatel a každá firma neustále aktualizovali technologie, a zejména experti na kybernetickou bezpečnost musí zlepšovat své profesní schopnosti a vyvíjet nová, proaktivní řešení.

Dvousečná zbraň, kterou představuje umělá inteligence, představuje pro odvětví kybernetické bezpečnosti obrovskou výzvu, ale také bezprecedentní příležitost. Budoucnost kyberprostoru závisí na tom, jak tento mocný nástroj využijeme a ovládneme. Konfrontace mezi obrannou a útočnou umělou inteligencí bude nekonečným závodem ve zbrojení a vítězství bude patřit pouze straně, která bude lépe připravena, úžeji spolupracuje a neustále se učí a inovuje.

Huy Quang

Zdroj: https://vtcnews.vn/bao-mat-bang-ai-con-dao-hai-luoi-ar970604.html