Oprócz negatywnego wpływu na środowisko i zasoby, sztuczna inteligencja (AI) szybko staje się narzędziem wysokiego ryzyka w dziedzinie cyberbezpieczeństwa. Jako dowód, OALABS Research ujawniło niedawno przypadek, w którym etiopski haker-amator wykorzystał agentów AI z Claude i OpenAI Codex do przeprowadzenia serii cyberataków.
Pomimo że polecenie było pełne błędów ortograficznych i gramatycznych oraz zawierało jedynie niejasne instrukcje, temu osobnikowi udało się złamać zabezpieczenia wielu prywatnych serwerów. Hakerowi udało się zinfiltrować bezpieczne dane co najmniej 14 firm, a nawet zaplanować kradzież kryptowaluty o wartości 4 milionów dolarów.

Hakerzy-amatorzy użyli Claude’a i Kodeksu do zaatakowania 14 firm.
Hakerzy i ich taktyki wykorzystywania sztucznej inteligencji do omijania barier systemowych.
Atakujący stosunkowo łatwo ominęli solidne zabezpieczenia modelu Claude Opus poprzez manipulację psychologiczną. Podszywając się pod członków badających luki w zabezpieczeniach, hakerzy oszukali chatbota AI, który automatycznie udostępnił cały kod źródłowy ataku. System szczegółowo opisał metody ataku, takie jak wymuszenia, sprzedaż danych i bezpośrednio instruował, jak je wykraść. Chatbot zablokował tylko jedno żądanie, które celowo dotyczyło osobistych kont cyfrowych konkretnej rodziny.
Ten nietypowy incydent został w pełni ujawniony po tym, jak ofiara, której serwer został zhakowany, skontaktowała się z ekspertami OALABS . Co ciekawe, tożsamość młodego hakera została ujawniona tylko dlatego, że wcześniej poprosił sztuczną inteligencję o edycję swojego profilu. Incydent wzbudził głębokie obawy dotyczące łatwego dostępu społeczeństwa do tych potężnych narzędzi technologicznych bez konieczności posiadania specjalistycznej wiedzy. Użytkownicy mogliby z łatwością wykorzystać innego pośrednika sztucznej inteligencji do tworzenia podobnych, niebezpiecznych poleceń ataku.
Obecnie giganci technologiczni, tacy jak Anthropic i OpenAI, stoją w martwym punkcie, próbując znaleźć ostateczne rozwiązanie zapobiegające tego typu atakom. Zaostrzenie ograniczeń modelu bezpośrednio pozbawiłoby prawdziwych badaczy bezpieczeństwa możliwości wzmocnienia systemu. Z drugiej strony, utrzymanie status quo pozostawiłoby granicę między etycznym wykorzystaniem a nielegalnym zyskiem nie do pokonania dla sztucznej inteligencji. Znalezienie optymalnego rozwiązania zapobiegającego złośliwym intencjom użytkowników pozostaje nierozwiązanym wyzwaniem.
Według gazety Thanh Nien
Źródło: https://baoangiang.com.vn/hacker-nghiep-du-dung-chatbot-ai-tan-cong-14-cong-ty-a490360.html







