Cyberbezpieczeństwo w erze sztucznej inteligencji: adaptacja w celu ochrony zaufania cyfrowego

An ninh mạng trong kỷ nguyên AI: Thích ứng để bảo vệ niềm tin số

Autor przedstawił zagadnienia cyberbezpieczeństwa w erze sztucznej inteligencji na konferencji BSides Hanoi 2025 – pierwszym wydarzeniu społecznościowym o międzynarodowym standardzie poświęconym bezpieczeństwu w Wietnamie. (Zdjęcie: NVCC)

Niewidzialne linie kodu mogą teraz doprowadzić do załamania całego systemu bankowego, syntetyczne filmy wideo mogą podsycić kryzys zaufania w ciągu kilku godzin, a samouczące się modele językowe mogą manipulować informacjami w sposób, na który żaden kraj nie jest w stanie zareagować. Rewolucja w dziedzinie sztucznej inteligencji zmienia globalny porządek cyberbezpieczeństwa, zmuszając kraje, w tym Wietnam, do wejścia w nową fazę, w której prawo musi nie tylko chronić prawdziwych ludzi, ale także identyfikować „obiekty wirtualne”.

Kiedy prawo musi nadążyć za szybkością danych

O ile cyberataki były kiedyś domeną zorganizowanych grup hakerów, dziś granica między człowiekiem a maszyną się zaciera. Atak może rozpocząć się od prostego polecenia, ale konsekwencje bywają katastrofalne: systemy zostają przejęte, dane osobowe wyciekają, a zaufanie do rynku spada.

W tym kontekście zarządzanie sztuczną inteligencją i cyberbezpieczeństwo nie są już dwiema odrębnymi dziedzinami, lecz zbiegają się w tej samej przestrzeni prawnej. Każda linijka kodu programistycznego, każdy model uczenia maszynowego, każdy algorytm rekomendacji może wiązać się z realną odpowiedzialnością prawną.

Na świecie Unia Europejska, Stany Zjednoczone, Chiny, a ostatnio ASEAN pilnie budują ramy prawne dla sztucznej inteligencji. Wietnam, kierując się zasadą „zapewnienia suwerenności narodowej w cyberprzestrzeni; zapewnienie bezpieczeństwa sieci, danych i informacji organizacji i jednostek jest wymogiem w całym procesie transformacji cyfrowej”, obrał własną drogę: otwierając się na innowacje i jednocześnie wzmacniając podstawy prawne.

Ustawa o cyberbezpieczeństwie z 2018 roku, Dekret 53/2022/ND-CP, Ustawa o ochronie danych osobowych z 2025 roku, Narodowa Strategia Rozwoju Sztucznej Inteligencji do 2030 roku oraz Projekt Ustawy o Sztucznej Inteligencji – wszystkie te elementy tworzą korytarz prawny, który jest wystarczająco elastyczny dla innowacji, a jednocześnie wystarczająco rygorystyczny, aby kontrolować ryzyko. To krok świadczący o długoterminowej wizji: nie tylko zarządzania technologią, ale także kształtowania jej funkcjonowania w ramach prawa.

Przedsiębiorstwa – pierwsza linia nowych obowiązków prawnych

Atak może rozpocząć się od prostego polecenia w wierszu poleceń, ale jego konsekwencją mogą być poważne sprawy sądowe. (Źródło: Internet)

W gospodarce cyfrowej przedsiębiorstwa nie tylko czerpią korzyści z technologii, ale także jako pierwsze ponoszą odpowiedzialność w przypadku incydentów związanych z danymi lub naruszeniami związanymi ze sztuczną inteligencją.

Ostatnie incydenty, od wycieków danych klientów, przez wewnętrzne naruszenia bezpieczeństwa danych, po wykorzystywanie narzędzi sztucznej inteligencji do tworzenia wprowadzających w błąd treści, wyraźnie wskazują, że zarządzanie technologią nie może być oddzielone od legalności. W miarę jak sztuczna inteligencja jest stosowana we wszystkim, od obsługi klienta, marketingu, analizy rynku po rekrutację, granica między innowacją a naruszeniem przepisów staje się cieńsza niż kiedykolwiek.

Dlatego firmy muszą posiadać wewnętrzny mechanizm zarządzania ryzykiem związanym ze sztuczną inteligencją, podobny do mechanizmu audytu finansowego. Zamiast czekać na wystąpienie ryzyka i jego rozwiązanie, należy wdrożyć kontrolę już na etapie projektowania. Każde narzędzie sztucznej inteligencji musi zostać ocenione i zatwierdzone pod kątem zgodności z przepisami prawa, zanim zostanie użyte z rzeczywistymi danymi.

Umowy z partnerami lub dostawcami usług powinny zawierać jasne warunki dotyczące wykorzystania obrazów, głosów i treści generowanych maszynowo. Działania sztucznej inteligencji powinny być w pełni rejestrowane, od żądań danych wejściowych po odpowiedzi wyjściowe, aby ułatwić śledzenie w razie potrzeby. Co ważniejsze, każda firma powinna opracować scenariusz reakcji na wypadek incydentu, obejmujący weryfikację deepfake'ów, zabezpieczenie dowodów i niezwłoczne zgłoszenie do organów ścigania.

Nie jest to jedynie kwestia techniczna, ale należy ją uznać za nową normę prawną. Kiedy modele sztucznej inteligencji potrafią uczyć się samodzielnie i generować nieoczekiwane rezultaty, „kontrola” staje się procesem ciągłym – odzwierciedlającym odpowiedzialność firmy w całym cyklu życia produktu.

Od zarządzania technicznego do zarządzania instytucjonalnego

W ceremonii podpisania Konwencji Hanoi uczestniczyli Sekretarz Generalny ONZ Antonio Guterres oraz przywódcy i wysocy rangą przedstawiciele ponad 110 krajów i wielu organizacji międzynarodowych. (Zdjęcie: Jackie Chan)

Największym wyzwaniem Wietnamu nie jest brak technologii, ale sposób przełożenia zasad technicznych na reguły instytucjonalne. Pytanie „Co potrafi sztuczna inteligencja?” należy zastąpić pytaniem „Co może robić sztuczna inteligencja i kto ponosi odpowiedzialność, gdy przekroczy tę granicę?”.

Aby to osiągnąć, ramy zarządzania muszą zostać zaprojektowane w sposób zintegrowany: dane, sztuczna inteligencja i cyberbezpieczeństwo muszą być zarządzane w sposób ujednolicony. Przedsiębiorstwa muszą mieć jasne obowiązki prawne w zakresie gromadzenia, przetwarzania i wykorzystywania danych do szkolenia w zakresie sztucznej inteligencji. Agencje państwowe muszą również zostać wyposażone w kompetencje „inspektorów technologii” – czyli osób potrafiących odczytywać i rozumieć algorytmy oraz oceniać systemy, a nie tylko przeglądać dokumentację administracyjną.

Kluczowym kamieniem milowym w tym przedsięwzięciu jest ceremonia otwarcia i konferencja wysokiego szczebla Konwencji Narodów Zjednoczonych przeciwko cyberprzestępczości (Konwencja z Hanoi), zaplanowane na 25–26 października 2025 r. w Hanoi.

Po raz pierwszy nazwa stolicy Hanoi została skojarzona z globalnym wielostronnym traktatem dotyczącym cyberbezpieczeństwa – to historyczne wydarzenie, pokazujące determinację społeczności międzynarodowej w łączeniu sił na rzecz stworzenia ram prawnych mających na celu ochronę bezpiecznej przestrzeni cyfrowej.

Konwencja z Hanoi ma nie tylko moc prawną, ale jest również politycznym symbolem zaufania cyfrowego, potwierdzającym rolę Wietnamu jako „centrum połączeń zaufania” w globalnym łańcuchu wartości technologii.

Kiedy zaufanie staje się atutem w gospodarce cyfrowej

Bank Światowy podkreślił, że w erze sztucznej inteligencji warunkiem koniecznym, aby kraj mógł „skoczyć naprzód”, nie jest technologia, ale zdolność do zarządzania danymi. Dane mają realną wartość tylko wtedy, gdy są ujednolicone, przejrzyste i zarządzane w sposób odpowiedzialny – gdy kraj przechodzi od „otwartych danych” do „danych gotowych na sztuczną inteligencję”.

Dobrze zarządzany system danych pomaga rządom w tworzeniu polityki opartej na dowodach i buduje zaufanie przedsiębiorstw i inwestorów. Innymi słowy, inteligencja jest tak inteligentna, jak czyste i wiarygodne są dane.

Minister Bezpieczeństwa Publicznego Luong Tam Quang podpisał Konwencję Hanoi. (Zdjęcie: Thanh Long)

Dla Wietnamu oznacza to, że silny system prawny w zakresie cyberbezpieczeństwa i sztucznej inteligencji nie tylko pomaga chronić, ale także tworzy nowe motory wzrostu. Międzynarodowe korporacje cenią Wietnam nie tylko za koszty pracy czy wielkość rynku, ale także za przejrzystość w zakresie technologii i zarządzania danymi.

Począwszy od przepisów dotyczących ochrony danych osobowych, zasad lokalizacji danych, aż po wymogi przeprowadzania oceny wpływu na cyberbezpieczeństwo przed uruchomieniem krytycznych systemów informatycznych – wszystkie te przepisy przyczyniają się do utworzenia „strefy bezpieczeństwa inwestycji cyfrowych” dla Wietnamu.

Aby jednak to wykorzystać, musimy przejść od podejścia opartego na „zarządzaniu ryzykiem” do podejścia opartego na „zarządzaniu wartością”. Oznacza to nie tylko kontrolowanie działań w celu uniknięcia naruszeń, ale także przekształcanie zgodności w przewagę konkurencyjną. Firmy, które dobrze przestrzegają przepisów dotyczących danych i bezpieczeństwa, mogą uzyskać priorytet w przetargach, współpracy międzynarodowej lub dostępie do programów wsparcia polityki.

Organy regulacyjne mogą publikować wskaźnik „bezpieczeństwa danych” jako kryterium kredytowe. Startupy lub centra badawcze AI, które spełniają standardy audytu algorytmów, mogą otrzymać certyfikat „Odpowiedzialnej AI”. To kierunek, który pomaga Wietnamowi umocnić swoją pozycję poprzez zaufanie cyfrowe, a nie tylko skalę czy tempo rozwoju.

Rola państwa: od zarządzania do tworzenia

Prawo zawsze pozostaje w tyle za technologią, ale jeśli pozostaje w tyle za bardzo, traci swoją przewodnią rolę. Wietnam stoi przed rzadką szansą: stworzyć własne zasady gry, zamiast kopiować szablony od potęg technologicznych.

Wymaga to od państwa zmiany podejścia: od zarządzania do tworzenia, budowania elastycznych ram polityki dla kontrolowanych innowacji. Od inspekcji do wsparcia, pomagając firmom zarówno w przestrzeganiu przepisów, jak i w zrównoważonym rozwoju. Oraz od indywidualnych operacji do współpracy międzysektorowej – gdy sztuczna inteligencja i cyberbezpieczeństwo dotykają prawa, obronności, nauki, edukacji, a nawet dyplomacji.

Przewodniczenie podpisaniu i wdrożeniu Konwencji z Hanoi jest wyraźnym dowodem na to, że Wietnam nie tylko reaguje na zagrożenia, ale także proaktywnie kształtuje nowe standardy prawne, łącząc etykę, bezpieczeństwo i czynniki ekonomiczne w jedną oś polityki.

W kierunku gospodarki zaufania

Z prawnego punktu widzenia cyberbezpieczeństwo i zarządzanie sztuczną inteligencją to nie tylko obszary techniczne, ale fundamenty konkurencyjności kraju. Kraj może być naprawdę silny w erze cyfrowej tylko wtedy, gdy potrafi chronić dane, zapewnić przejrzystość algorytmów i utrzymać zaufanie ludzi do informacji online.

Przedstawiciele krajów podpisujących Konwencję Hanoi. (Zdjęcie: Jackie Chan)

Jeśli XX wiek był wyścigiem przemysłu, to XXI wiek jest wyścigiem zaufania. Drastyczne zmiany w wietnamskich ramach prawnych na lata 2025–2030 dowodzą, że rozwoju gospodarki cyfrowej nie można oddzielić od budowy cyfrowego porządku prawnego. Wietnam odpowiada na to polityką, prawem i proaktywnym przywództwem regionalnym.

Technologia zawsze jest na pierwszym miejscu, ale prawodawstwo może iść w parze, jeśli opiera się na strategicznej wizji. Od krajowych ram prawnych po Konwencję z Hanoi, Wietnam wysyła jasny sygnał: cyberbezpieczeństwo i zarządzanie sztuczną inteligencją nie stanowią barier dla innowacji, lecz są warunkiem koniecznym zrównoważonego rozwoju.

W erze danych zaufanie stało się nową infrastrukturą ekonomiczną, a prawo, gdy tylko będzie w stanie identyfikować „wirtualnych atakujących”, stanie się tarczą chroniącą wszystkie realne wartości.

Source: https://baoquocte.vn/an-ninh-mang-trong-ky-nguyen-ai-thich-ung-de-bao-ve-niem-tin-so-332214.html