Wiele wyzwań dla sztucznej inteligencji w nowej erze.

W miarę jak sztuczna inteligencja staje się coraz bardziej dostępna i coraz więcej osób oraz firm korzysta z niej za pośrednictwem powszechnie dostępnych narzędzi, hakerzy mogą jednocześnie automatyzować ataki, przyspieszać procesy operacyjne i wdrażać bardziej zaawansowane kampanie, aby osiągnąć swoje nielegalne cele.

Kaspersky ujawnia rodzaje ataków cybernetycznych wykorzystujących sztuczną inteligencję.

Poniżej przedstawiono niektóre metody ataków zaobserwowane przez firmę Kaspersky: ChatGPT może być używany do tworzenia złośliwego oprogramowania i automatycznego przeprowadzania ataków na wiele ofiar; Programy sztucznej inteligencji infiltrują dane użytkowników na smartfonach i poprzez analizę poufnych danych atakujący mogą „kraść” wiadomości, hasła i kody bankowe ofiarom; Algorytmy inteligencji roju pomagają sieciom komputerowym automatycznie (bonet) odzyskiwać złośliwe sieci, które zostały wyeliminowane przez rozwiązania zabezpieczające.

Badania firmy Kaspersky nad wykorzystaniem sztucznej inteligencji do łamania haseł wskazują, że większość haseł jest szyfrowana za pomocą algorytmów haszujących, takich jak MD5 i SHA. Dlatego prosta operacja może przekształcić hasło w linię zaszyfrowanego tekstu, ale odwrócenie całego procesu stanowi poważne wyzwanie.

Dzięki sztucznej inteligencji cyberprzestępcy mogą wykorzystywać fałszywe treści, w tym tekst, obrazy, pliki audio i wideo , do przeprowadzania ataków nietechnicznych. Rozbudowane modele językowe, takie jak ChatGPT-4o, są wykorzystywane do tworzenia wysoce zaawansowanych scenariuszy i wiadomości phishingowych. Pokonując bariery językowe, sztuczna inteligencja potrafi napisać pozornie autentyczny e-mail, opierając się wyłącznie na informacjach z mediów społecznościowych. Potrafi nawet naśladować styl pisania ofiary, co jeszcze bardziej utrudnia wykrycie oszustwa.

Tymczasem technologia Deepfake stała się „problemem” w cyberbezpieczeństwie, mimo że wcześniej uważano ją za wynik badań naukowych . Podszywanie się pod celebrytów w celu osiągnięcia korzyści finansowych jest najczęstszą metodą; ponadto oszuści wykorzystują Deepfake do kradzieży kont i wykonywania podszywających się telefonów do znajomych i krewnych ofiar w celu wyłudzenia pieniędzy.

Oprócz wykorzystywania technologii sztucznej inteligencji do nielegalnych działań, cyberprzestępcy mogą również atakować algorytmy sztucznej inteligencji. Należą do nich ataki typu „prompt injection”, w których złośliwe polecenia są wstrzykiwane do dużych modeli językowych, nawet wbrew wcześniej zaostrzonym regułom, oraz ataki adwersarskie, w których do obrazów lub dźwięków dodawane są ukryte pola informacyjne, aby wpłynąć na możliwości klasyfikacji obrazów przez systemy uczenia maszynowego.

Sztuczna inteligencja jest coraz bardziej zintegrowana z każdym aspektem ludzkiego życia, od Apple Intelligence i Google Gemini po Microsoft Copilot. Dlatego eliminacja luk w zabezpieczeniach sztucznej inteligencji powinna być priorytetem. Firma Kaspersky od wielu lat wykorzystuje technologię sztucznej inteligencji do ochrony swoich klientów i partnerów, nieustannie poszukując luk w zabezpieczeniach systemów sztucznej inteligencji, aby zwiększyć ich odporność, oraz aktywnie badając techniki cyberataków, aby zapewnić niezawodną ochronę przed atakami opartymi na sztucznej inteligencji.

Kim Thanh

Źródło: https://www.sggp.org.vn/nhieu-thach-thuc-cua-ai-trong-thoi-dai-moi-post754401.html