Kybernetická bezpečnost ve věku umělé inteligence: Adaptace na ochranu digitální důvěry

An ninh mạng trong kỷ nguyên AI: Thích ứng để bảo vệ niềm tin số

Autor prezentoval otázky kybernetické bezpečnosti v éře umělé inteligence na konferenci BSides Hanoi 2025 – první mezinárodní akci zaměřené na komunitní bezpečnost ve Vietnamu. (Foto: NVCC)

Neviditelné řádky kódu mohou nyní způsobit kolaps celého bankovního systému, syntetická videa mohou během několika hodin vyvolat krizi důvěry a samoučící se jazykové modely mohou manipulovat s informacemi způsoby, na které žádná země nedokáže reagovat. Revoluce umělé inteligence přetváří globální řád kybernetické bezpečnosti a nutí země, včetně Vietnamu, vstoupit do nové fáze, kde zákony musí nejen chránit skutečné lidi, ale také identifikovat „virtuální objekty“.

Když zákon musí dohnat rychlost dat

Zatímco kybernetické útoky byly kdysi doménou organizovaných hackerských skupin, dnes se hranice mezi člověkem a strojem stírá. Útok může začít jednoduchým příkazovým řádkem, ale následky mohou být zničující: dochází k napadení systémů, úniku osobních údajů a hroutí se důvěra na trhu.

V této souvislosti již správa umělé inteligence a kybernetická bezpečnost nejsou dvěma oddělenými oblastmi, ale sbíhají se ve stejném právním prostoru. Každý řádek programového kódu, každý model strojového učení, každý doporučovací algoritmus může vést ke skutečné právní odpovědnosti.

Ve světě Evropská unie, Spojené státy, Čína a v poslední době i ASEAN naléhavě budují právní rámec pro umělou inteligenci. Vietnam se zaměřením na „zajištění národní suverenity v kyberprostoru; zajištění bezpečnosti sítí, dat a informací organizací i jednotlivců je nezbytným požadavkem v celém procesu digitální transformace“ zvolil vlastní cestu: jak otevření se inovacím, tak i zpřísnění právního základu.

Zákon o kybernetické bezpečnosti z roku 2018, vyhláška 53/2022/ND-CP, zákon o ochraně osobních údajů z roku 2025, Národní strategie rozvoje umělé inteligence do roku 2030 a návrh zákona o umělé inteligenci – to vše tvoří právní koridor, který je dostatečně flexibilní pro inovace, ale zároveň dostatečně přísný, aby kontroloval rizika. Jedná se o krok, který demonstruje dlouhodobou vizi: nejen řízení technologií, ale formování způsobu fungování technologií v rámci zákona.

Podniky – v první linii nových právních povinností

Útok může začít jen jednoduchým příkazovým řádkem, ale důsledky mohou být vážné právní případy. (Zdroj: Internet)

V digitální ekonomice nejsou podniky pouze příjemci technologií, ale také prvními, kdo nesou odpovědnost za incidenty s daty nebo porušení předpisů souvisejících s umělou inteligencí.

Nedávné incidenty, od úniků zákaznických dat, interních narušení bezpečnosti dat až po používání nástrojů umělé inteligence k vytváření zavádějícího obsahu, jasně varovaly, že správu technologií nelze oddělit od legality. Vzhledem k tomu, že se umělá inteligence uplatňuje ve všem od péče o zákazníky, marketingu, analýzy trhu až po nábor, hranice mezi inovací a porušováním předpisů se stává tenčí než kdy dříve.

Proto je nutné, aby podniky měly interní mechanismus řízení rizik v oblasti umělé inteligence, podobný mechanismu finančního auditu. Místo čekání na vyřešení rizik je třeba implementovat kontrolu již od fáze návrhu. Každý nástroj umělé inteligence musí být před použitím s reálnými daty vyhodnocen a schválen z hlediska souladu s právními předpisy.

Smlouvy s partnery nebo poskytovateli služeb by měly obsahovat jasné podmínky týkající se používání obrázků, hlasů a strojově generovaného obsahu. Operace umělé inteligence by měly být plně zaznamenávány, od vstupních požadavků až po výstupní odpovědi, aby se v případě potřeby usnadnilo sledování. A co je důležitější, každá firma by si měla vypracovat scénář reakce pro případ incidentu, včetně ověření deepfakeů, uchování důkazů a okamžitého nahlášení incidentu úřadům.

Nejde jen o technický problém, ale mělo by to být považováno za novou právní normu. Když se modely umělé inteligence dokáží samy učit a produkovat neočekávané výsledky, „kontrola“ se stává nepřetržitým procesem – odrážejícím odpovědnost podniku v průběhu celého životního cyklu produktu.

Od technického managementu k institucionálnímu managementu

Slavnostního podpisu Hanojské úmluvy se zúčastnil generální tajemník OSN António Guterres a vedoucí představitelé a vysocí představitelé více než 110 zemí a mnoha mezinárodních organizací. (Foto: Jackie Chan)

Největší výzvou Vietnamu není nedostatek technologií, ale způsob, jak převést technické principy do institucionálních pravidel. Otázku „Co může umělá inteligence dělat?“ je třeba nahradit otázkou „Co smí umělá inteligence dělat a kdo je zodpovědný, když tuto hranici překročí?“.

Aby toho bylo možné dosáhnout, musí být rámec správy a řízení navržen integrovaným způsobem: data, umělá inteligence a kybernetická bezpečnost musí být spravovány jednotným způsobem. Podniky musí mít jasné právní povinnosti ohledně shromažďování, zpracování a používání dat pro školení v oblasti umělé inteligence. Státní orgány musí být také vybaveny kapacitou „technologických inspektorů“ – tedy schopností číst a rozumět algoritmům, vyhodnocovat systémy, nejen kontrolovat administrativní záznamy.

Klíčovým milníkem v tomto úsilí je zahajovací ceremoniál a konference na vysoké úrovni Úmluvy OSN proti kyberkriminalitě (Hanojské úmluvy), která se má konat v Hanoji ve dnech 25. a 26. října 2025.

Název hlavního města Hanoje je poprvé spojen s globální multilaterální smlouvou o kybernetické bezpečnosti – historickou událostí, která demonstruje odhodlání mezinárodního společenství spojit síly a vytvořit právní rámec na ochranu bezpečného digitálního prostoru.

Hanojská úmluva má nejen právní hodnotu, ale je také politickým symbolem digitální důvěry a potvrzuje roli Vietnamu jako „centra důvěryhodného propojení“ v globálním hodnotovém řetězci technologií.

Když se důvěra stane aktivem v digitální ekonomice

Světová banka zdůraznila, že v éře umělé inteligence není předpokladem pro to, aby země „skočila vpřed“, technologie, ale kapacita pro správu dat. Data mají skutečnou hodnotu pouze tehdy, jsou-li standardizovaná, transparentní a spravovaná zodpovědně – když země přejde od „otevřených dat“ k „datům připraveným na umělou inteligenci“.

Dobře spravovaný datový systém pomáhá vládám vytvářet politiky založené na důkazech a buduje důvěru s podniky a investory. Jinými slovy, umělá inteligence je jen tak chytrá, jak čistá a důvěryhodná jsou její data.

Ministr veřejné bezpečnosti Luong Tam Quang podepsal Hanojskou úmluvu. (Foto: Thanh Long)

Pro Vietnam to znamená silný právní systém v oblasti kybernetické bezpečnosti a umělé inteligence, který nejen pomáhá chránit, ale také vytváří nové faktory růstu. Mezinárodní korporace oceňují Vietnam nejen pro jeho náklady na pracovní sílu nebo velikost trhu, ale také pro jeho jasnost v oblasti technologií a správy dat.

Od předpisů o ochraně osobních údajů a zásad lokalizace dat až po požadavky na posouzení dopadů na kybernetickou bezpečnost před provozováním kritických informačních systémů – to vše přispívá k vytvoření „bezpečnostní zóny digitálních investic“ pro Vietnam.

Abychom toho ale mohli využít, musíme se posunout od myšlení „řízení rizik“ k myšlení „řízení hodnoty“. To znamená nejen kontrolu, abychom se vyhnuli porušení, ale také proměnit dodržování předpisů v konkurenční výhodu. Pokud podniky dobře dodržují předpisy týkající se dat a bezpečnosti, mohou získat přednost při zadávání nabídek, mezinárodní spolupráci nebo přístupu k programům podpory politik.

Regulační orgány mohou zveřejňovat index „zabezpečení dat“ jako kritérium pro hodnocení úvěrů. Startupy nebo výzkumná centra pro umělou inteligenci, která splňují standardy auditu algoritmů, mohou získat certifikaci „Odpovědná umělá inteligence“. Tento směr pomáhá Vietnamu upevnit si svou pozici prostřednictvím digitální důvěry, nikoli pouze rozsahu nebo rychlosti vývoje.

Role státu: Od řízení k tvorbě

Zákony vždy zaostávají za technologiemi, ale pokud zaostávají příliš, ztrácejí svou vedoucí roli. Vietnam čelí vzácné příležitosti: psát si vlastní pravidla hry, místo aby kopíroval šablony od technologických gigantů.

To vyžaduje, aby stát změnil svůj přístup: od řízení k tvorbě, budování flexibilního politického rámce pro řízené inovace. Od inspekce k podpoře, pomoci podnikům jak v dodržování předpisů, tak i v udržitelném rozvoji. A od individuálních operací k meziodvětvové spolupráci – když se umělá inteligence a kybernetická bezpečnost dotýkají práva, obrany, vědy, vzdělávání a dokonce i diplomacie.

Předsednictví podpisu a implementaci Hanojské úmluvy je jasnou ukázkou toho, že Vietnam nejen reaguje na rizika, ale také proaktivně formuje nové právní normy a propojuje etiku, bezpečnost a ekonomické faktory do jedné politické osy.

Směrem k ekonomice důvěry

Z právního hlediska nejsou kybernetická bezpečnost a správa umělé inteligence pouze technickými oblastmi, ale zásadní pro národní konkurenceschopnost. Země může být v digitálním věku skutečně silná pouze tehdy, pokud dokáže chránit data, zajistit transparentnost algoritmů a udržet si důvěru lidí v online informace.

Zástupci zemí, které podepsaly Hanojskou úmluvu. (Foto: Jackie Chan)

Pokud bylo 20. století závodem průmyslu, pak 21. století je závodem důvěry. Drastické úpravy vietnamského právního rámce pro období 2025–2030 dokazují, že digitální ekonomický rozvoj nelze oddělit od budování digitálního právního řádu. Vietnam na to reaguje politikami, zákony a proaktivním regionálním vedením.

Technologie je vždy na prvním místě, ale legislativa může jít ruku v ruce, pokud je postavena na strategické vizi. Od národního právního rámce až po Hanojskou úmluvu vysílá Vietnam jasný signál: kybernetická bezpečnost a správa umělé inteligence nejsou překážkami inovací, ale předpoklady pro udržitelný rozvoj.

V datovém věku je důvěra novou ekonomickou infrastrukturou a zákon, až bude umět identifikovat „virtuální útočníky“, se stane štítem pro všechny skutečné hodnoty.

Zdroj: https://baoquocte.vn/an-ninh-mang-trong-ky-nguyen-ai-thich-ung-de-bao-ve-niem-tin-so-332214.html