Vulnerabilitatea „Zero Click” permite chiar și hackerilor să controleze ChatGPT pentru a acționa așa cum doresc - Ilustrație: AFP
Compania israeliană de securitate cibernetică Zenity tocmai a dezvăluit prima vulnerabilitate „Zero Click” descoperită în serviciul ChatGPT al OpenAI.
Acest tip de atac nu necesită ca utilizatorii să efectueze nicio acțiune, cum ar fi clicuri pe linkuri, deschiderea de fișiere sau efectuarea de interacțiuni deliberate, dar poate totuși obține acces la conturi și poate scurge date sensibile.
Mikhail Bergori, cofondator și director tehnic al Zenity, a explicat direct cum un hacker, pur și simplu având adresa de e-mail a unui utilizator, poate controla complet conversațiile – inclusiv conținutul trecut și viitor, poate schimba scopul conversațiilor și chiar poate manipula ChatGPT pentru a acționa conform dorințelor hackerului.
În prezentarea lor, cercetătorii au arătat că un ChatGPT compromis ar putea deveni un „agent rău intenționat” care operează pe ascuns împotriva utilizatorilor. Hackerii ar putea determina ChatGPT să sugereze utilizatorilor să descarce software infectat cu viruși, să ofere sfaturi comerciale înșelătoare sau să acceseze fișiere stocate pe Google Drive dacă contul utilizatorului este conectat. Toate acestea se întâmplă fără știrea utilizatorului.
Vulnerabilitatea a fost corectată complet doar după ce Zenity a notificat OpenAI.
Pe lângă ChatGPT, Zenity a simulat și alte atacuri similare care vizau alte platforme populare de asistență AI. La Copilot Studio de la Microsoft, cercetătorii au descoperit cum ar putea fi divulgate baze de date CRM întregi.
În cazul Salesforce Einstein, hackerii ar putea crea cereri de servicii false pentru a redirecționa toate comunicările clienților către adresele de e-mail aflate pe controlul lor.
Google Gemini și Microsoft 365 Copilot au fost, de asemenea, transformate în „agenți ostili”, care au efectuat escrocherii de tip phishing și au scurs informații sensibile prin e-mailuri și evenimente din calendar.
Într-un alt exemplu, instrumentul de dezvoltare software Cursor, atunci când a fost integrat cu Jira MCP, a fost exploatat și pentru a fura datele de autentificare ale programatorilor prin intermediul unor „tichete” false.
Zenity a declarat că unele companii, precum OpenAI și Microsoft, au lansat rapid patch-uri după ce au fost alertate. Cu toate acestea, unele companii au refuzat să abordeze problema, susținând că comportamentul descoperit a fost o „caracteristică de design” și nu o vulnerabilitate de securitate.
Potrivit lui Mikhail Bergori, principala provocare de astăzi este că asistenții cu inteligență artificială nu doar îndeplinesc sarcini simple, ci devin „entități digitale” care reprezintă utilizatorii – capabile să deschidă foldere, să trimită fișiere și să acceseze e-mailuri. El avertizează că acesta este ca un „refugiu” pentru hackeri, deoarece există prea multe vulnerabilități.
Ben Kaliger, cofondator și CEO al Zenity, a subliniat că cercetările companiei arată că metodele actuale de securitate nu mai sunt adecvate pentru modul în care operează asistenții AI. El a îndemnat organizațiile să își schimbe abordarea, investind în soluții specializate pentru a controla și monitoriza activitățile acestor „agenți”.
Zenity a fost fondată în 2021. În prezent, compania are aproximativ 110 angajați la nivel global, dintre care 70 lucrează la biroul său din Tel Aviv. Printre clienții Zenity se numără numeroase companii din topul Fortune 100 și chiar companii din topul Fortune 5.
Sursa: https://tuoitre.vn/lo-hong-nghiem-trong-บน-chatgpt-va-loat-tro-ly-ai-nguoi-dung-bi-lua-dao-lo-thong-tin-20250811131018876.htm
Comentariu (0)