Bezpieczeństwo wspomagane sztuczną inteligencją: miecz obosieczny.

Rozwój sztucznej inteligencji wiąże się z poważnym paradoksem w branży bezpieczeństwa: SI jest jednocześnie najsolidniejszą tarczą obronną i najniebezpieczniejszą bronią ofensywną.

Sztuczna inteligencja (AI) zmienia każdy aspekt życia, a cyberbezpieczeństwo nie jest tu wyjątkiem. Jednak szybki rozwój tej technologii prowadzi do poważnego paradoksu: AI jest zarówno najsolidniejszą tarczą obronną, jak i najgroźniejszą bronią ofensywną. Podczas wydarzenia BSides Hanoi 2025, zatytułowanego „AI Hack You”, czołowi eksperci analizowali naturę tego obosiecznego miecza, kreśląc kompleksowy obraz cyberwojny w nowej erze.

Według pana Vu Duy Hiena, zastępcy sekretarza generalnego i szefa biura Narodowego Stowarzyszenia Cyberbezpieczeństwa, sztuczna inteligencja (AI) jest obecnie jedną z technologii odgrywających szczególnie ważną rolę, wspierając osoby prywatne i firmy w wielu dziedzinach oraz pomagając w szybszym i bardziej efektywnym przetwarzaniu pracy. Jednak w obszarze cyberbezpieczeństwa AI jest mieczem obosiecznym.

AI – inteligentny „ochroniarz”

Niewątpliwie, sztuczna inteligencja wnosi ogromny postęp do branży cyberbezpieczeństwa. „Z drugiej strony, sztuczna inteligencja pomaga nam wcześnie wykrywać ataki, analizować dane i wzmacniać zabezpieczenia sieci. Wiele inteligentnych narzędzi bezpieczeństwa opracowanych dzięki sztucznej inteligencji znacznie skróciło czas reakcji na zagrożenia” – potwierdził Vu Duy Hien.

Pan Vu Duy Hien – zastępca sekretarza generalnego i szef biura Krajowego Stowarzyszenia Cyberbezpieczeństwa – na konferencji.

Tę siłę widać wyraźnie w wypowiedzi pani Huynh Ngoc Khanh Minh, członkini organizacji non-profit Anti-Fraud Network. Powiedziała ona, że ​​wcześniej, gdy działania zapobiegające oszustwom opierały się głównie na procesach manualnych, eksperci musieli weryfikować każdy podejrzany link osobno, co powodowało znaczne opóźnienia w obsłudze dziesiątek tysięcy zgłoszeń każdego dnia.

Aby pokonać to ograniczenie, zespół ds. zwalczania phishingu opracował nowe narzędzie oparte na sztucznej inteligencji. „Użytkownicy po prostu wklejają link, a sztuczna inteligencja automatycznie sprawdzi i wyświetli wyniki w ciągu od 30 sekund do 1 minuty z dokładnością do 98% ” – powiedziała pani Khanh Minh. „ Dzięki temu czas weryfikacji jest skrócony dziesiątki razy w porównaniu z poprzednim, co pomaga użytkownikom proaktywnie wykrywać i zapobiegać oszustwom online, skutecznie i całkowicie bezpłatnie”.

Wiodące globalne platformy cyberbezpieczeństwa również w znacznym stopniu zintegrowały sztuczną inteligencję. System Darktrace wykorzystuje samouczącą się sztuczną inteligencję do zbudowania „systemu odporności” dla firm, automatycznie wykrywając nawet najmniejsze anomalie, które mogą być oznakami nieznanego ataku. Podobnie platforma CrowdStrike Falcon wykorzystuje uczenie maszynowe i analizę behawioralną, aby zapobiegać zaawansowanym atakom, zamiast polegać wyłącznie na znanych sygnaturach złośliwego oprogramowania.

Narzędzia te pokazują, w jaki sposób sztuczna inteligencja pomaga specjalistom ds. cyberbezpieczeństwa przejść od podejścia pasywnego do proaktywnego, zapobiegając zagrożeniom zanim zdążą one wyrządzić szkody.

AI – broń w rękach złych ludzi.

Ciemna strona medalu jest równie olśniewająca. To właśnie nadzwyczajne możliwości sztucznej inteligencji sprawiły, że stała się ona pożądanym narzędziem dla cyberprzestępców. Pan Vu Duy Hien zauważył: „Z drugiej strony, cyberprzestępcy wykorzystują sztuczną inteligencję do opracowywania bardziej zaawansowanych metod ataków, zdolnych do omijania wielu warstw tradycyjnych zabezpieczeń. W związku z tym szybkość, skala i skuteczność cyberataków dramatycznie rosną”.

Ataki phishingowe są wysoce spersonalizowane: wykorzystując duże modele językowe (LLM), hakerzy mogą generować masę wiadomości e-mail i komunikatów, które brzmią naturalnie i zawierają kontekst dostosowany do każdego celu. Dzięki temu nawet najbardziej ostrożni użytkownicy mogą paść ofiarą ataku.

Rozwój Deepfake: Cyberprzestępcy potrafią podszywać się pod głos lub wideo prezesa firmy, aby zlecić pilne przelewy pieniężne. Znany przypadek dotyczył przestępców, którzy wykorzystując sztuczną inteligencję, podszywali się pod głos prezesa brytyjskiej firmy energetycznej, aby skutecznie wyłudzić 243 000 dolarów.

Sztuczne oprogramowanie polimorficzne: Sztuczna inteligencja może być użyta do tworzenia złośliwego oprogramowania, które automatycznie zmienia swój kod źródłowy po każdej infekcji, sprawiając, że tradycyjne oprogramowanie antywirusowe staje się nieskuteczne.

Automatyzacja procesu ataku: Hakerzy mogą wykorzystywać sztuczną inteligencję do automatycznego skanowania milionów systemów w poszukiwaniu luk w zabezpieczeniach, przeprowadzając ataki typu „odmowa usługi” (DDoS) lub łamiąc hasła z zawrotną prędkością, wielokrotnie zwiększając skalę ataku.

Czynnik ludzki i niekończący się wyścig.

Biorąc pod uwagę tę rzeczywistość, eksperci są zgodni, że wojna o cyberbezpieczeństwo w erze sztucznej inteligencji to wyścig między „dobrą sztuczną inteligencją” a „złą sztuczną inteligencją”. W centrum tego wyścigu znajduje się czynnik ludzki, który staje się jeszcze ważniejszy.

Pan Truong Duc Luong – przewodniczący VSEC – na seminarium.

Pan Truong Duc Luong, prezes Wietnamskiej Spółki Akcyjnej ds. Cyberbezpieczeństwa (VSEC), stwierdził, że w ciągu 22 lat doświadczenia zaobserwował brak możliwości współpracy i dzielenia się dogłębną wiedzą między wietnamskimi specjalistami ds. cyberbezpieczeństwa a resztą świata, podczas gdy międzynarodowa społeczność cyberbezpieczeństwa jest bardzo aktywna. Podkreśla to pilną potrzebę budowania silnej społeczności.

W odpowiedzi na te obawy pan Vu Duy Hien stwierdził: „Sztuczna inteligencja to nieodwracalny trend, więc zamiast się martwić, społeczność zajmująca się cyberbezpieczeństwem powinna współpracować, dzielić się doświadczeniami i wspólnie budować bezpieczny ekosystem obronny, który dostosuje się do nowej ery”.

Co więcej, wyzwania nie ograniczają się do aspektów technicznych. Według prawniczki Nhi Pham, mimo że Wietnam posiada odpowiednie dokumenty prawne, dochodzenia i ściganie wciąż napotykają na wiele trudności, ponieważ naruszenia często mają charakter transgraniczny, co utrudnia śledzenie i odzyskiwanie aktywów. Uważa ona, że ​​aby zminimalizować ryzyko, niezbędna jest ścisła współpraca i wzajemne zrozumienie między zespołami technicznymi i prawnymi.

Ostatecznie kluczem do sukcesu jest ciągłe doskonalenie możliwości. Pan Hien podkreślił, że walka z cyberprzestępczością w erze sztucznej inteligencji wymaga od każdego użytkownika i każdej firmy ciągłego unowocześniania technologii, a w szczególności od ekspertów ds. cyberbezpieczeństwa, którzy muszą doskonalić swoje umiejętności zawodowe i proaktywnie opracowywać nowe rozwiązania.

Obosieczny miecz sztucznej inteligencji stanowi zarówno poważne wyzwanie, jak i bezprecedensową szansę dla cyberbezpieczeństwa. Przyszłość cyberprzestrzeni zależy od tego, jak wykorzystamy i będziemy kontrolować to potężne narzędzie. Konfrontacja między defensywną a ofensywną sztuczną inteligencją będzie niekończącym się wyścigiem zbrojeń, a zwycięstwo odniesie tylko strona lepiej przygotowana, ściślej współpracująca oraz stale ucząca się i wprowadzająca innowacje.

Huy Quang

Źródło: https://vtcnews.vn/bao-mat-bang-ai-con-dao-hai-luoi-ar970604.html