Izrael: Ostrzeżenie, że asystenci AI mogą stać się złośliwymi agentami atakującymi użytkowników

Izraelska firma zajmująca się cyberbezpieczeństwem Zenity ujawniła pierwszą w historii lukę w zabezpieczeniach „Zero Click” w usłudze ChatGPT firmy OpenAI. Ten typ ataku nie wymaga od użytkowników wykonywania żadnych czynności, takich jak kliknięcie linku, otwarcie pliku czy podjęcie jakiejkolwiek zamierzonej interakcji, ale nadal może uzyskać dostęp do kont i ujawnić poufne dane.

Według reportera VNA z Tel Awiwu, Michaił Bergori, współzałożyciel i dyrektor techniczny Zenity, wprost wyjaśnił, że haker potrzebuje jedynie adresu e-mail użytkownika, aby w pełni kontrolować konwersacje — w tym ich przeszłe i przyszłe treści, zmieniać cel konwersacji, a nawet kontrolować ChatGPT, aby działać zgodnie z życzeniami hakera.

W swojej prezentacji naukowcy pokazali, że zainfekowany ChatGPT może zostać przekształcony w „złośliwego aktora”, który może działać potajemnie przeciwko użytkownikom. Hakerzy mogliby sprawić, że chatbot będzie sugerował użytkownikom pobranie zainfekowanego oprogramowania, udzielał mylących porad biznesowych lub uzyskiwał dostęp do plików przechowywanych na Dysku Google, jeśli konto użytkownika jest połączone.

Cały proces przebiegał bez wiedzy użytkownika. Luka została w pełni załatana dopiero po powiadomieniu OpenAI przez Zenity.

Oprócz ChatGPT, Zenity przeprowadził również podobne ataki na inne popularne platformy asystentów AI. W Copilot Studio firmy Microsoft badacze odkryli, jak wyciekać całe bazy danych CRM.

W przypadku Salesforce Einstein hakerzy mogą tworzyć fałszywe prośby o usługę, aby przekierowywać całą komunikację z klientami na kontrolowane przez siebie adresy e-mail.

Google Gemini i Microsoft 365 Copilot również stały się „wrogimi aktorami” przeprowadzającymi ataki phishingowe i ujawniającymi poufne informacje za pośrednictwem wiadomości e-mail i wydarzeń w kalendarzu.

W innym przykładzie narzędzie do tworzenia oprogramowania Cursor, po zintegrowaniu z Jira MCP, zostało wykorzystane do kradzieży danych uwierzytelniających programistów za pomocą fałszywych „zgłoszeń”.

Zenity poinformowało, że niektóre firmy, takie jak OpenAI i Microsoft, szybko opublikowały poprawki po otrzymaniu alertu. Inne jednak odmówiły zajęcia się tym problemem, argumentując, że zachowanie to było „cechą projektu”, a nie luką w zabezpieczeniach.

Według Michaiła Bergoriego, największym wyzwaniem jest to, że asystenci AI nie tylko wykonują proste zadania, ale stają się „cyfrowymi bytami” reprezentującymi użytkowników – zdolnymi do otwierania folderów, wysyłania plików i dostępu do wiadomości e-mail. Ostrzegł, że to „raj” dla hakerów, z mnóstwem możliwości wykorzystania.

Ben Kaliger, współzałożyciel i prezes Zenity, podkreślił, że badania firmy pokazują, iż obecne metody bezpieczeństwa nie są już odpowiednie dla sposobu działania asystentów AI. Zaapelował do organizacji o zmianę podejścia i inwestowanie w specjalistyczne rozwiązania, które umożliwią kontrolowanie i monitorowanie działań tych „agentów”.

Firma Zenity została założona w 2021 roku. Obecnie zatrudnia około 110 pracowników na całym świecie, z czego 70 pracuje w biurze w Tel Awiwie. Do grona klientów Zenity należy wiele firm z listy Fortune 100, a nawet Fortune 5.

(TTXVN/Wietnam+)

Source: https://www.vietnamplus.vn/israel-canh-bao-tro-ly-ai-co-the-tro-thanh-tac-nhan-doc-Hai-tan-cong-nguoi-dung-post1054883.vnp