Izrael: Ostrzeżono, że asystenci AI mogą stać się złośliwymi narzędziami atakującymi użytkowników.

Izraelska firma zajmująca się cyberbezpieczeństwem Zenity ujawniła właśnie pierwszą w historii lukę w zabezpieczeniach „Zero Click” w usłudze ChatGPT firmy OpenAI. Ten typ ataku nie wymaga od użytkowników wykonywania żadnych czynności, takich jak klikanie linku, otwieranie pliku czy celowa interakcja, ale nadal może uzyskać dostęp do konta i ujawnić poufne dane.

Według korespondenta VNA w Tel Awiwie, Michaił Bergori, współzałożyciel i dyrektor techniczny Zenity, bezpośrednio wyjaśnił, w jaki sposób haker, mając jedynie adres e-mail użytkownika, może całkowicie kontrolować rozmowy – w tym ich przeszłe i przyszłe treści, zmieniać cel rozmów, a nawet manipulować ChatGPT, aby działało zgodnie z jego życzeniami.

W swojej prezentacji naukowcy pokazali, że zainfekowany ChatGPT może przekształcić się w „złośliwego agenta” działającego w ukryciu przeciwko użytkownikom. Hakerzy mogą sprawić, że chatbot będzie nakłaniał użytkowników do pobrania oprogramowania zainfekowanego wirusem, oferował mylące porady biznesowe lub uzyskiwał dostęp do plików przechowywanych na Dysku Google, jeśli konto użytkownika jest połączone.

Cały proces odbywał się bez wiedzy użytkownika. Luka została w pełni załatana dopiero po powiadomieniu OpenAI przez Zenity.

Oprócz ChatGPT, Zenity symulowało również kilka podobnych ataków na inne popularne platformy asystentów AI. W studiu Copilot firmy Microsoft badacze odkryli, jak całe bazy danych CRM mogą zostać ujawnione.

W przypadku Salesforce Einstein hakerzy mogli tworzyć fałszywe prośby o usługę, aby przekierowywać całą komunikację z klientami na kontrolowane przez siebie adresy e-mail.

Google Gemini i Microsoft 365 Copilot również stały się „wrogimi agentami” przeprowadzającymi ataki phishingowe i ujawniającymi poufne informacje za pośrednictwem wiadomości e-mail i wydarzeń w kalendarzu.

W innym przykładzie narzędzie programistyczne Cursor, po zintegrowaniu z Jira MCP, zostało wykorzystane do kradzieży danych logowania programistów za pomocą fałszywych „biletów”.

Zenity poinformowało, że niektóre firmy, takie jak OpenAI i Microsoft, szybko opublikowały poprawki po otrzymaniu alertu. Były jednak również firmy, które odmówiły zajęcia się tym problemem, twierdząc, że wykryte zachowanie było „cechą projektu”, a nie luką w zabezpieczeniach.

Według Michaiła Bergoriego, największym wyzwaniem jest dziś to, że asystenci AI nie tylko wykonują proste zadania, ale stają się „cyfrowymi bytami” reprezentującymi użytkowników – zdolnymi do otwierania folderów, wysyłania plików i uzyskiwania dostępu do wiadomości e-mail. Ostrzega, że to swoista „azyla” dla hakerów, z mnóstwem luk w zabezpieczeniach, które można wykorzystać.

Ben Kaliger, współzałożyciel i prezes Zenity, podkreślił, że badania firmy pokazują, iż obecne metody bezpieczeństwa nie są już wystarczające dla działania asystentów AI. Wezwał organizacje do zmiany podejścia i inwestowania w specjalistyczne rozwiązania do kontrolowania i monitorowania aktywności tych „agentów”.

Firma Zenity została założona w 2021 roku. Obecnie zatrudnia około 110 pracowników na całym świecie, z czego 70 pracuje w biurze w Tel Awiwie. Do grona klientów Zenity należy wiele firm z listy Fortune 100, a nawet Fortune 5.

(VNA/Wietnam+)

Source: https://www.vietnamplus.vn/israel-canh-bao-tro-ly-ai-co-the-tro-thanh-tac-nhan-doc-hai-tan-cong-nguoi-dung-post1054883.vnp