Wiele wyzwań dla sztucznej inteligencji w nowej erze

W miarę jak sztuczna inteligencja staje się coraz bardziej dostępna i coraz więcej osób i firm korzysta z niej za pośrednictwem powszechnie dostępnych narzędzi… hakerzy mogą również automatyzować ataki, przyspieszać operacje i wdrażać bardziej złożone kampanie, aby osiągnąć swoje nielegalne cele.

Kaspersky ujawnia rodzaje cyberataków wykorzystujących sztuczną inteligencję

Oto rodzaje ataków zaobserwowane przez firmę Kaspersky: ChatGPT może być używany do tworzenia złośliwego oprogramowania i automatycznego przeprowadzania ataków na wiele ofiar; programy sztucznej inteligencji wnikają w dane użytkowników smartfonów i, poprzez analizę poufnych danych, potrafią „odczytać” wiadomości, hasła i kody bankowe ofiar; algorytmy inteligencji roju pomagają zautomatyzowanym sieciom komputerowym (bonets) przywrócić działanie złośliwych sieci wyeliminowanych przez rozwiązania zabezpieczające.

Badania firmy Kaspersky nad wykorzystaniem sztucznej inteligencji do łamania haseł pokazują, że większość haseł jest szyfrowana za pomocą algorytmów haszujących, takich jak MD5 i SHA. Prosta operacja może przekształcić hasło w strumień tekstu zaszyfrowanego, ale odwrócenie tego procesu stanowi duże wyzwanie.

Dzięki sztucznej inteligencji cyberprzestępcy mogą wykorzystywać fałszywe treści, w tym tekst, obrazy, pliki audio i wideo , do przeprowadzania ataków socjotechnicznych. Rozbudowane modele językowe, takie jak ChatGPT-4o, służą do tworzenia wysoce zaawansowanych skryptów i wiadomości phishingowych. Pokonując bariery językowe, sztuczna inteligencja potrafi napisać autentyczny e-mail, opierając się wyłącznie na informacjach z mediów społecznościowych. Potrafi nawet naśladować styl pisania ofiary. To jeszcze bardziej utrudnia wykrycie phishingu.

Jednocześnie Deepfake stanowi „problem” w cyberbezpieczeństwie, choć wcześniej uważano go za wynik badań naukowych . Podszywanie się pod celebrytów w celu osiągnięcia korzyści finansowych to najczęstsza metoda. Oszuści wykorzystują Deepfake również do kradzieży kont, wykonywania fałszywych połączeń do znajomych i krewnych ofiar w celu przywłaszczenia sobie ich majątku.

Oprócz wykorzystywania technologii sztucznej inteligencji do nielegalnych działań, cyberprzestępcy mogą również atakować algorytmy sztucznej inteligencji. Na przykład ataki typu „Prompt Injection” polegają na wprowadzaniu złośliwych poleceń do dużych modeli językowych, nawet łamiąc wcześniej zaostrzone reguły; ataki adwersarskie polegają na dodawaniu ukrytych pól informacyjnych do obrazów lub dźwięku, aby wpłynąć na zdolność systemu uczenia maszynowego do klasyfikowania obrazów.

Sztuczna inteligencja jest stopniowo integrowana z każdym aspektem ludzkiego życia, od Apple Intelligence, przez Google Gemini, po Microsoft Copilot. Dlatego eliminacja luk w zabezpieczeniach sztucznej inteligencji powinna być priorytetem. Firma Kaspersky od wielu lat wykorzystuje technologię sztucznej inteligencji do ochrony klientów i partnerów, nieustannie poszukując luk w zabezpieczeniach systemów sztucznej inteligencji, zwiększając ich odporność i aktywnie badając techniki cyberataków, aby zapewnić niezawodną ochronę przed atakami wykorzystującymi sztuczną inteligencję.

Kim Thanh

Źródło: https://www.sggp.org.vn/nhieu-thach-thuc-cua-ai-trong-thoi-dai-moi-post754401.html