Súlyos sebezhetőség a ChatGPT-ben és számos mesterséges intelligencia asszisztensben: A felhasználókat átverik, és adataik kiszivárognak...

ChatGPT - Ảnh 1. — A „Zero Click” sebezhetőség lehetővé teszi a hackerek számára, hogy a ChatGPT-t úgy irányítsák, ahogyan akarják – Illusztráció: AFP

Az izraeli Zenity kiberbiztonsági cég nemrégiben nyilvánosságra hozta az OpenAI ChatGPT szolgáltatásában felfedezett első „Zero Click” sebezhetőséget.

Az ilyen típusú támadás nem követeli meg a felhasználóktól, hogy semmilyen műveletet hajtsanak végre, például linkekre kattintsanak, fájlokat nyissanak meg, vagy bármilyen szándékos interakciót végezzenek, mégis hozzáférhetnek fiókokhoz és kiszivárogtathatnak érzékeny adatokat.

Mikhail Bergori, a Zenity társalapítója és műszaki igazgatója közvetlenül elmagyarázta, hogyan tudja egy hacker pusztán a felhasználó e-mail címének birtoklásával teljes mértékben irányítani a beszélgetéseket – beleértve a múltbeli és jövőbeli tartalmakat is, megváltoztatni a beszélgetések célját, sőt, még a ChatGPT-t is manipulálni, hogy a hacker kívánságai szerint cselekedjen.

Előadásukban a kutatók kimutatták, hogy egy feltört ChatGPT „rosszindulatú ügynökké” válhat, amely alattomosan fellép a felhasználók ellen. A hackerek arra késztethetik a ChatGPT-t, hogy vírussal fertőzött szoftverek letöltését javasolja a felhasználóknak, félrevezető üzleti tanácsokat adjon, vagy hozzáférjen a Google Drive-on tárolt fájlokhoz, ha a felhasználó fiókja csatlakoztatva van. Mindez a felhasználó tudta nélkül történik.

A sebezhetőséget csak azután javították ki teljesen, hogy a Zenity értesítette az OpenAI-t.

A ChatGPT mellett a Zenity számos hasonló támadást is szimulált, amelyek más népszerű MI-asszisztens platformokat céloztak meg. A Microsoft Copilot Studio kutatói felfedezték, hogyan szivároghattak ki teljes CRM-adatbázisok.

A Salesforce Einstein esetében a hackerek hamis szolgáltatáskéréseket hozhattak létre, hogy az összes ügyfélkommunikációt a saját irányításuk alatt álló e-mail címekre irányítsák át.

A Google Gemini és a Microsoft 365 Copilot szintén „ellenséges ügynökökké” vált, adathalász csalásokat hajtottak végre, és érzékeny információkat szivárogtattak ki e-maileken és naptári eseményeken keresztül.

Egy másik példában a Cursor szoftverfejlesztő eszközt, amikor integrálták a Jira MCP-vel, szintén kihasználták arra, hogy hamis „ticketek” segítségével ellopják a programozók bejelentkezési adatait.

A Zenity szerint egyes cégek, mint például az OpenAI és a Microsoft, a riasztást követően gyorsan kiadtak javításokat. Egyes cégek azonban nem voltak hajlandók foglalkozni a problémával, azt állítva, hogy a felfedezett viselkedés inkább „tervezési funkció”, mint biztonsági rés.

Mihail Bergori szerint a mai fő kihívás az, hogy a mesterséges intelligencia által támogatott asszisztensek nemcsak egyszerű feladatokat látnak el, hanem a felhasználókat képviselő „digitális entitásokká” válnak – képesek mappákat megnyitni, fájlokat küldeni és e-maileket elérni. Figyelmeztet, hogy ez a hackerek „menedéke”, mivel túl sok a sebezhetőség.

Ben Kaliger, a Zenity társalapítója és vezérigazgatója hangsúlyozta, hogy a vállalat kutatása azt mutatja, hogy a jelenlegi biztonsági módszerek már nem megfelelőek a mesterséges intelligencia asszisztensek működéséhez. Arra sürgette a szervezeteket, hogy változtassanak a megközelítésükön, és fektessenek be speciális megoldásokba, amelyekkel ellenőrizni és felügyelni lehet ezen „ügynökök” tevékenységét.

A Zenity-t 2021-ben alapították. Jelenleg a vállalat világszerte körülbelül 110 alkalmazottat foglalkoztat, ebből 70-en a tel-avivi irodájukban dolgoznak. A Zenity ügyfelei között számos Fortune 100-as, sőt Fortune 5-ös vállalat is szerepel.

Vissza a témához

VNA

Forrás: https://tuoitre.vn/lo-hong-nghiem-trong-บน-chatgpt-va-loat-tro-ly-ai-nguoi-dung-bi-lua-dao-lo-thong-tin-202508111131018876.htm