Výše zmíněná otázka byla nastolena na workshopu „Bezpečnost v éře umělé inteligence – strategie pro formování digitální budoucnosti“, který 7. dubna uspořádala Národní asociace pro kybernetickou bezpečnost (NCA).
Na konferenci experti zhodnotili, že umělá inteligence není jen hnací silou inovací a provozní optimalizace, ale také neúmyslně vytváří nové bezpečnostní zranitelnosti, protože datové systémy se stávají stále více propojenými a složitými.
Ve Vietnamu se právní rámec pro kybernetickou bezpečnost a umělou inteligenci zdokonaluje prostřednictvím zákona o kybernetické bezpečnosti, strategie umělé inteligence do roku 2030 a nových směrnic pro řízení, které kladou důraz na požadavky na bezpečnost, transparentnost a odpovědnost v celém životním cyklu technologie, zejména proto, že se umělá inteligence stává klíčovou součástí národní digitální infrastruktury.
Na konferenci plukovník Dr. Nguyen Hong Quan, zástupce ředitele oddělení kybernetické bezpečnosti a prevence kriminality v oblasti high-tech Ministerstva veřejné bezpečnosti , uvedl, že umělá inteligence zásadně mění metody a povahu kybernetických hrozeb. Zatímco dříve se kyberzločinci spoléhali především na tradiční dovednosti a nástroje, dnes jsou s podporou umělé inteligence schopni automatizovat útoky v nebývalém rozsahu a s nebývalou sofistikovaností. Podvodné schémata se stávají personalizovanějšími, padělané produkty využívající technologii deepfake je stále obtížnější identifikovat a malware se dokáže přizpůsobit tak, aby se vyhnul obranným systémům. Ve Vietnamu tyto trendy již nepředstavují potenciální hrozby, ale jsou jasně patrné v případech podvodů využívajících falešné zprávy bankovních značek, falešných aplikací k odcizení aktiv nebo hovorů využívajících technologii falšování hlasu a obrazu k budování důvěry a žádostem o převod peněz. Tito pachatelé se zejména vydávají za oficiální agentury, používají sofistikované scénáře a zneužívají uniklé osobní údaje k vyvíjení psychologického tlaku na oběti. Tyto metody demonstrují stále těsnější kombinaci technologií a manipulace s lidským chováním.
„Umělá inteligence není jen nástrojem, ale stává se faktorem, který mění kybernetickou bezpečnost a národní bezpečnost. Proaktivní osvojení, zvládnutí a zajištění bezpečnosti technologií umělé inteligence bude v budoucnu rozhodujícím faktorem pro udržitelný a bezpečný rozvoj každého národa,“ zdůraznil plukovník Nguyen Hong Quan.
Pan Pham Tien Dung, viceguvernér Vietnamské státní banky a místopředseda NCA, se podělil o svůj pohled a potvrdil, že Vietnam čelí velké příležitosti prorazit v digitálním věku. Abychom však této příležitosti využili, potřebujeme pevný základ kybernetické bezpečnosti, kde inovace jdou ruku v ruce s bezpečností a rozvoj je vždy spojen s kontrolou rizik.
„Tradiční bezpečnostní metody odhalují svá omezení tváří v tvář hrozbám nové generace. To vyžaduje paralelní přístup: Na jedné straně musí být umělá inteligence navržena, nasazena a provozována bezpečným, spolehlivým a kontrolovaným způsobem; na druhé straně musí být umělá inteligence také využívána jako nástroj pro posílení schopností kybernetické obrany,“ analyzoval pan Dung a dodal, že budování ekosystému umělé inteligence není jen o technologii, ale vyžaduje také správu dat, řízení rizik a zajištění kybernetické bezpečnosti od počáteční fáze návrhu systému až po celý proces používání a provozu.
Z mezinárodního hlediska Ruma Balasubramanian, prezidentka společnosti Check Point Software Technologies pro Asii a Tichomoří a Japonsko – jednotky kybernetické bezpečnosti chránící přes 100 000 organizací po celém světě – uvedla, že současné hrozby související s umělou inteligencí lze rozdělit do tří kategorií: úniky dat, útoky z příkazového řádku (vkládání nevhodných příkazů) a narušení procesů. Tyto hrozby jsou co do rozsahu a rychlosti mnohem větší než tradiční hrozby, jako jsou ty prostřednictvím e-mailu.
Pro řešení této situace expert navrhuje komplexní přístup, který zahrnuje: správu nástrojů umělé inteligence používaných zaměstnanci (vyhýbání se stínové umělé inteligenci), stanovení jasných zásad používání a prevenci úniků dat. Současně je klíčové zajistit, aby modely umělé inteligence fungovaly tak, jak byly navrženy, a implementovat testování „červeným týmem“ k ověření jejich bezpečnosti.
Umělá inteligence není jen nástroj; stává se faktorem, který mění kybernetickou bezpečnost a národní bezpečnost. Proaktivní přijetí, zvládnutí a zabezpečení technologií umělé inteligence bude v budoucnu klíčové pro udržitelný a bezpečný rozvoj každého národa.
Zdroj: https://daidoanket.vn/an-toan-khong-gian-mang-va-nhung-thach-thuc.html
Komentář (0)