Bezpieczeństwo sztucznej inteligencji: miecz obosieczny

Sztuczna inteligencja (AI) zmienia każdy aspekt życia, a cyberbezpieczeństwo nie jest tu wyjątkiem. Jednak szybki rozwój tej technologii stwarza poważny paradoks: AI jest zarówno najsolidniejszą tarczą obronną, jak i najgroźniejszą bronią ataku. Podczas wydarzenia BSides Hanoi 2025, którego tematem przewodnim było „AI Hack You”, czołowi eksperci spotkali się, aby „dogłębnie przeanalizować” naturę tego obosiecznego miecza, kreśląc panoramiczny obraz cyberwojny w nowej erze.

Według pana Vu Duy Hiena, zastępcy sekretarza generalnego i szefa biura Narodowego Stowarzyszenia Cyberbezpieczeństwa, sztuczna inteligencja (AI) jest obecnie jedną z technologii odgrywających szczególnie ważną rolę, wspierając osoby prywatne i firmy w wielu dziedzinach oraz pomagając w szybszym i efektywniejszym przetwarzaniu pracy. Jednak w obszarze cyberbezpieczeństwa AI jest mieczem obosiecznym.

AI – inteligentny „ochroniarz”

Nie da się zaprzeczyć, że sztuczna inteligencja czyni ogromne postępy w branży cyberbezpieczeństwa. „Z drugiej strony, sztuczna inteligencja pomaga nam wcześnie wykrywać ataki, analizować dane i wzmacniać zabezpieczenia sieci. Wiele inteligentnych narzędzi bezpieczeństwa stworzonych dzięki sztucznej inteligencji znacznie skróciło czas reakcji na zagrożenia” – potwierdził Vu Duy Hien.

Pan Vu Duy Hien – zastępca sekretarza generalnego i szef biura Krajowego Stowarzyszenia Cyberbezpieczeństwa – na warsztatach.

Tę siłę wyraźnie widać w wypowiedzi pani Huynh Ngoc Khanh Minh, członkini organizacji non-profit Anti-Phishing. Powiedziała ona, że w przeszłości, gdy działania antyphishingowe opierały się głównie na procesach manualnych, eksperci musieli weryfikować każdy podejrzany link po kolei, co powodowało ogromne opóźnienia w rozpatrywaniu dziesiątek tysięcy zgłoszeń dziennie.

Aby pokonać to ograniczenie, zespół ds. zwalczania oszustw opracował nowe narzędzie oparte na sztucznej inteligencji. „Użytkownicy muszą jedynie wkleić link, a sztuczna inteligencja automatycznie sprawdzi i wyświetli wyniki w czasie od 30 sekund do 1 minuty z dokładnością do 98% ” – powiedziała pani Khanh Minh. „ Dzięki temu czas weryfikacji jest skrócony dziesiątki razy w porównaniu z poprzednim, co pomaga użytkownikom aktywnie wykrywać i zapobiegać ryzyku oszustw internetowych, skutecznie i całkowicie bezpłatnie”.

Wiodące globalne platformy cyberbezpieczeństwa również głęboko zintegrowały sztuczną inteligencję. System Darktrace wykorzystuje samouczącą się sztuczną inteligencję do zbudowania „systemu odporności” dla firm, automatycznie wykrywając najmniejsze anomalie, które mogą być oznakami nieznanego ataku. Podobnie platforma CrowdStrike Falcon wykorzystuje uczenie maszynowe i analizę behawioralną, aby zapobiegać zaawansowanym atakom, zamiast polegać wyłącznie na znanych „sygnaturach” złośliwego oprogramowania.

Narzędzia te pokazują, w jaki sposób sztuczna inteligencja pomaga specjalistom ds. cyberbezpieczeństwa przejść od podejścia reaktywnego do proaktywnego, powstrzymując zagrożenia, zanim zdążą one wyrządzić szkody.

AI – broń w rękach złych facetów

Druga strona medalu jest równie genialna. To właśnie nadzwyczajne możliwości sztucznej inteligencji sprawiły, że stała się ona pożądanym narzędziem dla cyberprzestępców. Pan Vu Duy Hien zauważył: „Z drugiej strony, cyberprzestępcy wykorzystują sztuczną inteligencję również do opracowywania bardziej wyrafinowanych form ataków, zdolnych do pokonania wielu poziomów tradycyjnej obrony. Szybkość, skala i celność cyberataków drastycznie wzrosły”.

Głęboko spersonalizowane ataki phishingowe: Dzięki dużym modelom językowym (LLM) hakerzy mogą tworzyć serie wiadomości e-mail i komunikatów w naturalnym języku i kontekście odpowiednim dla każdej ofiary, sprawiając, że nawet najbardziej ostrożni użytkownicy dadzą się nabrać.

Rozkwit deepfake: Cyberprzestępcy potrafią podrobić głos lub nagranie wideo prezesa, aby zlecić pilne przelewy pieniężne. Jeden ze znanych przypadków dotyczył przestępców, którzy wykorzystali sztuczną inteligencję do podrobienia głosu prezesa brytyjskiej firmy energetycznej, aby skutecznie wyłudzić 243 000 dolarów.

Polimorficzne złośliwe oprogramowanie: sztuczna inteligencja może być użyta do tworzenia złośliwego oprogramowania, które może automatycznie zmieniać swój kod źródłowy po każdej infekcji, co sprawia, że tradycyjne oprogramowanie antywirusowe staje się nieskuteczne.

Automatyzacja procesu ataku: Hakerzy mogą wykorzystywać sztuczną inteligencję do automatycznego skanowania milionów systemów w poszukiwaniu luk w zabezpieczeniach, przeprowadzać ataki typu rozproszona odmowa usługi (DDoS) lub łamać hasła z zawrotną prędkością, wielokrotnie zwiększając skalę ataku.

Czynnik ludzki i niekończący się wyścig

W obliczu tej rzeczywistości eksperci są zgodni, że wojna o cyberbezpieczeństwo w erze sztucznej inteligencji to wyścig między „dobrą” a „złą” sztuczną inteligencją. A w centrum tego wyścigu jeszcze większego znaczenia nabiera czynnik ludzki.

Pan Truong Duc Luong – przewodniczący VSEC – na warsztatach.

Pan Truong Duc Luong, prezes Wietnamskiej Spółki Akcyjnej ds. Cyberbezpieczeństwa (VSEC), powiedział, że mając 22 lata doświadczenia, zdał sobie sprawę z braku możliwości współpracy i dzielenia się dogłębną wiedzą między wietnamskim zespołem ds. cyberbezpieczeństwa a resztą świata, podczas gdy międzynarodowa społeczność bezpieczeństwa jest bardzo aktywna. Stwarza to pilną potrzebę zbudowania silnej wspólnoty.

Odpowiadając na te obawy, pan Vu Duy Hien powiedział: „Sztuczna inteligencja to nieodwracalny trend, więc zamiast się martwić, społeczność zajmująca się cyberbezpieczeństwem powinna współpracować, dzielić się doświadczeniami i wspólnie budować bezpieczny ekosystem obronny, który dostosuje się do nowej ery”.

Co więcej, wyzwanie nie dotyczy wyłącznie kwestii technicznych. Według prawniczki Nhi Pham, mimo że Wietnam posiada dokumenty prawne, dochodzenie i postępowanie nadal napotykają wiele trudności, ponieważ naruszenia często mają charakter transgraniczny, co utrudnia śledzenie i odzyskiwanie aktywów. Według niej, aby zminimalizować ryzyko, niezbędna jest ścisła współpraca i wzajemne zrozumienie między zespołami technicznymi i prawnymi.

Ostatecznie kluczem do zwycięstwa jest ciągłe doskonalenie swoich możliwości. Pan Hien podkreślił, że zapobieganie cyberprzestępczości w erze sztucznej inteligencji wymaga od każdego użytkownika i każdej firmy ciągłego unowocześniania technologii, a w szczególności od ekspertów ds. cyberbezpieczeństwa, którzy muszą doskonalić swoje kompetencje zawodowe i opracowywać nowe, proaktywne rozwiązania.

Obosieczny miecz sztucznej inteligencji stanowi ogromne wyzwanie, ale także bezprecedensową szansę dla branży cyberbezpieczeństwa. Przyszłość cyberprzestrzeni zależy od tego, jak wykorzystamy i będziemy kontrolować to potężne narzędzie. Konfrontacja między defensywną a ofensywną sztuczną inteligencją będzie niekończącym się wyścigiem zbrojeń, a zwycięstwo odniesie tylko ta strona, która jest lepiej przygotowana, ściślej współpracuje oraz stale się uczy i wprowadza innowacje.

Huy Quang

Źródło: https://vtcnews.vn/bao-mat-bang-ai-con-dao-hai-luoi-ar970604.html