Israel: Advarsel om at AI-assistenter kan bli ondsinnede agenter for å angripe brukere

Det israelske cybersikkerhetsfirmaet Zenity har avslørt den aller første «Zero Click»-sårbarheten som ble oppdaget i OpenAIs ChatGPT-tjeneste. Denne typen angrep krever ikke at brukere utfører noen handling som å klikke på en lenke, åpne en fil eller delta i noen tilsiktet interaksjon, men kan fortsatt få tilgang til kontoer og lekke sensitive data.

Ifølge en VNA-reporter i Tel Aviv forklarte Mikhail Bergori, medgründer og teknisk direktør i Zenity, direkte hvordan en hacker bare trenger en brukers e-postadresse for å fullstendig kontrollere samtaler – inkludert tidligere og fremtidig innhold, endre formålet med samtalen og til og med kontrollere ChatGPT for å handle i henhold til hackerens ønsker.

I presentasjonen viste forskerne at en kompromittert ChatGPT kunne bli omgjort til en «ondsinnet aktør» som kunne operere i hemmelighet mot brukere. Hackere kunne få chatboten til å foreslå at brukere lastet ned virusinfisert programvare, gi villedende forretningsråd eller få tilgang til filer lagret på Google Drive hvis brukerens konto er tilkoblet.

Hele prosessen skjedde uten at brukeren visste om det. Sårbarheten ble først fullstendig rettet etter at Zenity varslet OpenAI.

I tillegg til ChatGPT har Zenity også demonstrert lignende angrep mot andre populære AI-assistentplattformer. I Microsofts Copilot Studio oppdaget forskere hvordan de kunne lekke hele CRM-databaser.

For Salesforce Einstein kan hackere opprette falske tjenesteforespørsler for å omdirigere all kundekommunikasjon til e-postadresser de kontrollerer.

Google Gemini og Microsoft 365 Copilot ble også omgjort til «fiendtlige aktører» som utførte phishing-angrep og lekket sensitiv informasjon gjennom e-poster og kalenderhendelser.

I et annet eksempel ble programvareutviklingsverktøyet Cursor, når det ble integrert med Jira MCP, også utnyttet til å stjele utviklerlegitimasjon gjennom falske «tickets».

Zenity sa at noen selskaper, som OpenAI og Microsoft, raskt ga ut oppdateringer etter å ha blitt varslet. Andre nektet imidlertid å ta opp problemet, og argumenterte for at oppførselen var en «designfunksjon» snarere enn en sikkerhetssårbarhet.

Den store utfordringen nå, ifølge Mikhail Bergori, er at AI-assistenter ikke bare utfører enkle oppgaver, men blir «digitale enheter» som representerer brukere – i stand til å åpne mapper, sende filer og få tilgang til e-poster. Han advarte om at dette er som et «paradis» for hackere, med så mange utnyttelsespunkter.

Ben Kaliger, medgründer og administrerende direktør i Zenity, understreket at selskapets forskning viser at nåværende sikkerhetsmetoder ikke lenger er egnet for måten AI-assistenter opererer på. Han oppfordret organisasjoner til å endre sin tilnærming og investere i spesialiserte løsninger for å kunne kontrollere og overvåke aktivitetene til disse «agentene».

Zenity ble grunnlagt i 2021. Selskapet har for tiden rundt 110 ansatte over hele verden, hvorav 70 jobber på kontoret i Tel Aviv. Zenitys kunder inkluderer mange Fortune 100- og til og med Fortune 5-selskaper.

(TTXVN/Vietnam+)

Kilde: https://www.vietnamplus.vn/israel-canh-bao-tro-ly-ai-co-the-tro-thanh-tac-nhan-doc-Hai-tan-cong-nguoi-dung-post1054883.vnp