Izrael: Figyelmeztetés, hogy a mesterséges intelligencia asszisztensei rosszindulatú ügynökökké válhatnak, és megtámadhatják a felhasználókat

Az izraeli Zenity kiberbiztonsági cég felfedte az OpenAI ChatGPT szolgáltatásában felfedezett első „Zero Click” sebezhetőséget. Az ilyen típusú támadás nem követeli meg a felhasználóktól, hogy bármilyen műveletet hajtsanak végre, például kattintsanak egy linkre, nyissanak meg egy fájlt vagy bármilyen szándékolt interakciót folytassanak, de továbbra is hozzáférhetnek fiókokhoz és kiszivárogtathatnak érzékeny adatokat.

Egy tel-avivi VNA tudósító szerint Mikhail Bergori, a Zenity társalapítója és műszaki igazgatója közvetlenül elmagyarázta, hogy egy hackernek csak a felhasználó e-mail címére van szüksége a beszélgetések teljes irányításához – beleértve a múltbeli és jövőbeli tartalmakat is, a beszélgetés céljának megváltoztatásához, sőt, még a ChatGPT-t is a hacker kívánságai szerint irányíthatja.

Előadásukban a kutatók kimutatták, hogy egy feltört ChatGPT „rosszindulatú szereplővé” alakítható, amely észrevétlenül képes fellépni a felhasználók ellen. A hackerek arra kényszeríthetik a chatbotot, hogy vírussal fertőzött szoftverek letöltését javasolja a felhasználóknak, félrevezető üzleti tanácsokat adjon, vagy hozzáférjen a Google Drive-on tárolt fájlokhoz, ha a felhasználó fiókja csatlakoztatva van.

A teljes folyamat a felhasználó tudta nélkül zajlott. A sebezhetőséget csak azután javították ki teljesen, hogy a Zenity értesítette az OpenAI-t.

A ChatGPT mellett a Zenity más népszerű mesterséges intelligencia asszisztens platformok ellen is bebizonyított hasonló támadásokat. A Microsoft Copilot Studio programjában a kutatók felfedezték, hogyan lehet teljes CRM-adatbázisokat kiszivárogtatni.

A Salesforce Einstein esetében a hackerek hamis szolgáltatáskéréseket hozhatnak létre, hogy az összes ügyfélkommunikációt az általuk ellenőrzött e-mail címekre irányítsák át.

A Google Gemini és a Microsoft 365 Copilot szintén „ellenséges szereplőkké” váltak, adathalász támadásokat hajtottak végre, és érzékeny információkat szivárogtattak ki e-maileken és naptári eseményeken keresztül.

Egy másik példában a Cursor szoftverfejlesztő eszközt, amikor integrálták a Jira MCP-vel, szintén kihasználták fejlesztői hitelesítő adatok ellopására hamis „ticketek” segítségével.

A Zenity szerint néhány vállalat, mint például az OpenAI és a Microsoft, gyorsan kiadott javításokat a figyelmeztetést követően. Mások azonban nem kívántak foglalkozni a problémával, azzal érvelve, hogy a viselkedés inkább „tervezési funkció”, mint biztonsági rés.

Mikhail Bergori szerint a nagy kihívás most az, hogy a mesterséges intelligencia által támogatott asszisztensek nem csupán egyszerű feladatokat látnak el, hanem „digitális entitásokká” válnak, amelyek a felhasználókat képviselik – képesek mappákat megnyitni, fájlokat küldeni és e-mailekhez hozzáférni. Figyelmeztetett, hogy ez olyan, mint a hackerek „paradicsoma”, ahol rengeteg kihasználási lehetőség rejlik.

Ben Kaliger, a Zenity társalapítója és vezérigazgatója hangsúlyozta, hogy a vállalat kutatása azt mutatja, hogy a jelenlegi biztonsági módszerek már nem alkalmasak a mesterséges intelligencia asszisztensek működésére. Felszólította a szervezeteket, hogy változtassanak a megközelítésükön, és fektessenek be speciális megoldásokba, hogy képesek legyenek ellenőrizni és felügyelni ezen „ügynökök” tevékenységét.

A Zenity-t 2021-ben alapították. A vállalat jelenleg világszerte körülbelül 110 alkalmazottat foglalkoztat, akik közül 70-en a tel-avivi irodában dolgoznak. A Zenity ügyfelei között számos Fortune 100-as és Fortune 5-ös vállalat is szerepel.

(TTXVN/Vietnam+)

Forrás: https://www.vietnamplus.vn/israel-canh-bao-tro-ly-ai-co-the-tro-thanh-tac-nhan-doc-Hai-tan-cong-nguoi-dung-post1054883.vnp