Israel: Avertisment: asistenții inteligenți artificiali pot deveni agenți rău intenționați pentru a ataca utilizatorii

Firma israeliană de securitate cibernetică Zenity a dezvăluit prima vulnerabilitate „Zero Click” descoperită vreodată în serviciul ChatGPT al OpenAI. Acest tip de atac nu necesită ca utilizatorii să efectueze nicio acțiune, cum ar fi clicul pe un link, deschiderea unui fișier sau implicarea în orice interacțiune intenționată, dar poate totuși obține acces la conturi și poate divulga date sensibile.

Potrivit unui reporter VNA din Tel Aviv, dl. Mikhail Bergori, cofondator și CTO al Zenity, a explicat direct cum un hacker are nevoie doar de adresa de e-mail a unui utilizator pentru a controla complet conversațiile - inclusiv conținutul trecut și viitor, pentru a schimba scopul conversației și chiar pentru a controla ChatGPT pentru a acționa conform dorințelor hackerului.

În prezentarea lor, cercetătorii au arătat că un ChatGPT compromis ar putea fi transformat într-un „actor rău intenționat” care ar putea opera pe ascuns împotriva utilizatorilor. Hackerii ar putea face chatbot-ul să sugereze utilizatorilor să descarce software infectat cu viruși, să ofere sfaturi comerciale înșelătoare sau să acceseze fișiere stocate pe Google Drive dacă contul utilizatorului este conectat.

Întregul proces s-a desfășurat fără ca utilizatorul să știe. Vulnerabilitatea a fost corectată complet abia după ce Zenity a notificat OpenAI.

Pe lângă ChatGPT, Zenity a demonstrat atacuri similare împotriva altor platforme populare de asistență AI. În Copilot Studio de la Microsoft, cercetătorii au descoperit cum să scurgă baze de date CRM întregi.

Pentru Salesforce Einstein, hackerii pot crea cereri de servicii false pentru a redirecționa toate comunicările clienților către adresele de e-mail pe care le controlează.

Google Gemini și Microsoft 365 Copilot au fost, de asemenea, transformate în „actori ostili”, care au efectuat atacuri de phishing și au scurs informații sensibile prin e-mailuri și evenimente din calendar.

Într-un alt exemplu, instrumentul de dezvoltare software Cursor, atunci când a fost integrat cu Jira MCP, a fost exploatat și pentru a fura acreditările dezvoltatorului prin intermediul unor „tichete” false.

Zenity a declarat că unele companii, precum OpenAI și Microsoft, au lansat rapid patch-uri după ce au fost alertate. Cu toate acestea, altele au refuzat să abordeze problema, argumentând că comportamentul era o „caracteristică de design” și nu o vulnerabilitate de securitate.

Marea provocare acum, potrivit lui Mikhail Bergori, este că asistenții inteligenți artificiali nu mai îndeplinesc doar sarcini simple, ci devin „entități digitale” care reprezintă utilizatorii – capabili să deschidă foldere, să trimită fișiere și să acceseze e-mailuri. El a avertizat că acesta este ca un „paradis” pentru hackeri, cu atât de multe puncte de exploatare.

Ben Kaliger, cofondator și CEO al Zenity, a subliniat că cercetările companiei arată că metodele actuale de securitate nu mai sunt potrivite pentru modul în care operează asistenții AI. El a cerut organizațiilor să își schimbe abordarea și să investească în soluții specializate pentru a putea controla și monitoriza activitățile acestor „agenți”.

Zenity a fost fondată în 2021. Compania are în prezent aproximativ 110 angajați în întreaga lume, dintre care 70 lucrează în biroul din Tel Aviv. Printre clienții Zenity se numără numeroase companii din topul Fortune 100 și chiar Fortune 5.

(TTXVN/Vietnam+)

Sursă: https://www.vietnamplus.vn/israel-canh-bao-tro-ly-ai-co-the-tro-thanh-tac-nhan-doc-Hai-tan-cong-nguoi-dung-post1054883.vnp