Israel: Varning för att AI-assistenter kan bli skadliga agenter för att attackera användare

Det israeliska cybersäkerhetsföretaget Zenity har avslöjat den första "Zero Click"-sårbarheten någonsin som upptäckts i OpenAI:s ChatGPT-tjänst. Den här typen av attack kräver inte att användare utför någon åtgärd som att klicka på en länk, öppna en fil eller delta i någon avsedd interaktion, men kan fortfarande få åtkomst till konton och läcka känslig data.

Enligt en VNA-reporter i Tel Aviv förklarade Mikhail Bergori, medgrundare och teknisk chef för Zenity, direkt hur en hackare bara behöver en användares e-postadress för att helt kontrollera konversationer – inklusive tidigare och framtida innehåll, ändra syftet med konversationen och till och med kontrollera ChatGPT för att agera enligt hackarens önskemål.

I sin presentation visade forskarna att en komprometterad ChatGPT kunde förvandlas till en "skadlig aktör" som kunde operera i smyg mot användare. Hackare kunde få chatboten att föreslå att användare laddar ner virusinfekterad programvara, ge vilseledande affärsråd eller komma åt filer som är lagrade på Google Drive om användarens konto är anslutet.

Hela processen skedde utan användarens vetskap. Sårbarheten åtgärdades först helt efter att Zenity meddelade OpenAI.

Förutom ChatGPT har Zenity även demonstrerat liknande attacker mot andra populära AI-assistentplattformar. I Microsofts Copilot Studio upptäckte forskare hur man läcker hela CRM-databaser.

För Salesforce Einstein kan hackare skapa falska serviceförfrågningar för att omdirigera all kundkommunikation till e-postadresser de kontrollerar.

Google Gemini och Microsoft 365 Copilot förvandlades också till "fientliga aktörer" som utförde nätfiskeattacker och läckte känslig information via e-postmeddelanden och kalenderhändelser.

I ett annat exempel utnyttjades även mjukvaruutvecklingsverktyget Cursor, när det integrerades med Jira MCP, för att stjäla utvecklaruppgifter genom falska "ärenden".

Zenity sa att vissa företag, som OpenAI och Microsoft, snabbt släppte patchar efter att ha blivit varnade. Andra vägrade dock att ta itu med problemet och hävdade att beteendet var en "designfunktion" snarare än en säkerhetsbrist.

Den stora utmaningen nu, enligt Mikhail Bergori, är att AI-assistenter inte bara utför enkla uppgifter, utan blir "digitala enheter" som representerar användare – kan öppna mappar, skicka filer och komma åt e-postmeddelanden. Han varnade för att detta är som ett "paradis" för hackare, med så många möjligheter att utnyttja dem.

Ben Kaliger, medgrundare och VD för Zenity, betonade att företagets forskning visar att nuvarande säkerhetsmetoder inte längre är lämpliga för hur AI-assistenter arbetar. Han uppmanade organisationer att ändra sitt tillvägagångssätt och investera i specialiserade lösningar för att kunna kontrollera och övervaka dessa "agenters" aktiviteter.

Zenity grundades 2021. Företaget har för närvarande cirka 110 anställda världen över, varav 70 arbetar på kontoret i Tel Aviv. Zenitys kunder inkluderar många Fortune 100- och till och med Fortune 5-företag.

(TTXVN/Vietnam+)

Källa: https://www.vietnamplus.vn/israel-canh-bao-tro-ly-ai-co-the-tro-thanh-tac-nhan-doc-Hai-tan-cong-nguoi-dung-post1054883.vnp