3 hlavní hrozby umělé inteligence v kybernetické bezpečnosti

Úniky dat, nesprávné příkazy a narušení pracovních postupů jsou v poslední době tři hlavní hrozby pro používání umělé inteligence v bezpečnostních systémech.

O tom se podělila paní Ruma Balasubramanian, prezidentka společnosti Check Point Software Technologies pro region Asie, Tichomoří a Japonska, na tiskové konferenci tematického workshopu „Bezpečnost v éře umělé inteligence – strategie pro formování digitální budoucnosti“, který se nedávno konal v Hanoji .

Paní Ruma Balasubramanian, prezidentka společnosti Check Point Software Technologies pro Asii a Tichomoří a Japonsko, se na konferenci podělila o své postřehy. (Foto: NCA)

Podle prezidenta společnosti Check Point Software Technologies pro Asii a Tichomoří a Japonsko se hrozby ze strany umělé inteligence stávají stále většími a rychlejšími, potenciálně prostřednictvím e-mailů nebo ransomwaru.

Studie společnosti Check Point z roku 2025 ukazuje, že zatímco dříve trvalo 9 týdnů, než se zranitelnost stala kybernetickým útokem, s umělou inteligencí to nyní může trvat pouhou 1 hodinu. Znalost umělé inteligence proto může pomoci těm, kteří jsou napadeni, reagovat v reálném čase.

„Přístup společnosti Check Point k zabezpečení umělé inteligence se zaměřuje na viditelnost, správu a prevenci v celém ekosystému umělé inteligence. Pro firmy, které mají zájem o vybudování vlastní infrastruktury umělé inteligence, která by splňovala požadavky na datovou suverenitu, nabízí Check Point přístup prostřednictvím svého „AI Factory Security Blueprint“ – referenční architektury, která pomáhá kontrolovat rizika v celé síti, od infrastruktury GPU až po modely velkých jazyků (LLM),“ sdílela Ruma Balasubramanian.

Workshop uspořádala Národní asociace pro kybernetickou bezpečnost (NCA) v kontextu umělé inteligence, která mění krajinu globální kybernetické bezpečnosti.

Kybernetická bezpečnost představuje nebývalé výzvy. Umělá inteligence není jen hnací silou inovací a provozní optimalizace, ale také neúmyslně vytváří nové bezpečnostní zranitelnosti, protože datové systémy se stávají stále více propojenými a složitými.

Ve Vietnamu se právní rámec pro kybernetickou bezpečnost a umělou inteligenci zdokonaluje prostřednictvím zákona o kybernetické bezpečnosti, strategie umělé inteligence do roku 2030 a nových směrnic pro řízení, které kladou důraz na požadavky na bezpečnost, transparentnost a odpovědnost v celém životním cyklu technologie, zejména proto, že se umělá inteligence stává klíčovou součástí národní digitální infrastruktury.

Plukovník Nguyen Hong Quan, zástupce ředitele oddělení kybernetické bezpečnosti a prevence kriminality v oblasti high-tech, hovoří na workshopu. (Foto: NCA)

Ve svém úvodním projevu na workshopu plukovník Nguyen Hong Quan, zástupce ředitele odboru kybernetické bezpečnosti a prevence kriminality v oblasti high-tech (Ministerstvo veřejné bezpečnosti) a vedoucí výboru pro bezpečnost dat a ochranu osobních údajů Národní asociace pro kybernetickou bezpečnost, uvedl, že z hlediska zajištění národní bezpečnosti představuje umělá inteligence v současné době mnoho strategických výzev.

Argumentoval, že jde o ochranu datové suverenity, problém závislosti na zahraničních platformách a technologiích, stejně jako o potřebu chránit samotné systémy umělé inteligence, které se stávají novými terči útoků.

„Umělá inteligence zásadně mění metody a povahu kybernetických hrozeb. Zatímco dříve se kyberzločinci spoléhali především na tradiční dovednosti a nástroje, dnes jsou s podporou umělé inteligence schopni automatizovat útoky v nebývalém rozsahu a s nebývalou sofistikovaností,“ zdůraznil plukovník Nguyen Hong Quan.

Zkušenosti z Vietnamu také ukazují, že tento trend již není potenciální hrozbou, ale jasnou a přítomnou realitou.

„Zaznamenali jsme mnoho případů podvodů s využitím falešných zpráv s logem banky, falešných aplikací k odcizení aktiv nebo hovorů s využitím technologie falšování hlasu a obrazu k vybudování důvěry a žádosti o převod peněz,“ uvedl plukovník Nguyen Hong Quan.

Pan Quan zejména poznamenal, že tito jedinci se také vydávají za úředníky, používají sofistikované scénáře a zneužívají uniklé osobní informace k vyvíjení psychologického nátlaku na oběti. Tyto metody demonstrují stále těsnější kombinaci technologií a manipulace s lidským chováním.

Z hlediska národní bezpečnosti představuje umělá inteligence několik strategických výzev. Patří mezi ně ochrana datové suverenity, závislost na zahraničních platformách a technologiích a potřeba chránit samotné systémy umělé inteligence, které se stávají novými cíli útoků.

Tyto výzvy nejsou jen technické povahy, ale úzce souvisejí také s institucemi, politikami a soběstačností každé země.

Plukovník Nguyen Hong Quan zdůraznil: „Umělá inteligence není jen nástrojem, ale stává se faktorem, který mění podobu kybernetické bezpečnosti a národní bezpečnosti. Proaktivní osvojení, zvládnutí a zajištění bezpečnosti technologií umělé inteligence bude v budoucnu rozhodujícím faktorem pro udržitelný a bezpečný rozvoj každého národa.“

Minh Hoan

Zdroj: https://vtcnews.vn/3-moi-de-doa-lon-cua-ai-trong-an-ninh-mang-ar1011840.html