Alvorlig sårbarhet på ChatGPT og en rekke AI-assistenter: Brukere blir svindlet, informasjon lekker ut ...

ChatGPT - Ảnh 1. — «Zero Click»-sårbarheten lar til og med hackere kontrollere ChatGPT slik at de kan handle som de vil – Illustrasjon: AFP

Det israelske cybersikkerhetsselskapet Zenity har nettopp avslørt den første «Zero Click»-sårbarheten som ble oppdaget i OpenAIs ChatGPT-tjeneste.

Denne typen angrep krever ikke at brukere utfører noen handlinger som å klikke på lenker, åpne filer eller foreta bevisste interaksjoner, men det kan fortsatt få tilgang til kontoer og lekke sensitive data.

Mikhail Bergori, medgründer og teknisk direktør i Zenity, forklarte direkte hvordan en hacker, ganske enkelt ved å ha en brukers e-postadresse, kan kontrollere samtaler fullstendig – inkludert tidligere og fremtidig innhold, endre formålet med samtaler og til og med manipulere ChatGPT til å handle i henhold til hackerens ønsker.

I presentasjonen viste forskerne at en kompromittert ChatGPT kunne bli en «ondsinnet agent» som opererte i det skjulte mot brukere. Hackere kunne få ChatGPT til å foreslå at brukere lastet ned virusinfisert programvare, tilby villedende forretningsråd eller få tilgang til filer lagret på Google Drive hvis brukerens konto er tilkoblet. Alt dette skjer uten brukerens viten.

Sårbarheten ble først fullstendig oppdatert etter at Zenity varslet OpenAI.

I tillegg til ChatGPT simulerte Zenity også flere lignende angrep rettet mot andre populære AI-assistentplattformer. I Microsofts Copilot Studio oppdaget forskere hvordan hele CRM-databaser kunne lekkes.

I tilfellet med Salesforce Einstein kunne hackere lage falske tjenesteforespørsler for å omdirigere all kundekommunikasjon til e-postadresser de kontrollerte.

Google Gemini og Microsoft 365 Copilot ble også omgjort til «fiendtlige agenter», som utførte phishing-svindel og lekket sensitiv informasjon gjennom e-poster og kalenderhendelser.

I et annet eksempel ble programvareutviklingsverktøyet Cursor, når det ble integrert med Jira MCP, også utnyttet til å stjele programmereres påloggingsinformasjon gjennom falske "billetter".

Zenity sa at noen selskaper, som OpenAI og Microsoft, raskt ga ut oppdateringer etter å ha blitt varslet. Noen selskaper nektet imidlertid å ta tak i problemet og hevdet at den oppdagede oppførselen var en «designfunksjon» snarere enn en sikkerhetssårbarhet.

Ifølge Mikhail Bergori er den største utfordringen i dag at AI-assistenter ikke bare utfører enkle oppgaver, men blir «digitale enheter» som representerer brukere – i stand til å åpne mapper, sende filer og få tilgang til e-poster. Han advarer om at dette er som et «fristed» for hackere, ettersom det er for mange sårbarheter.

Ben Kaliger, medgründer og administrerende direktør i Zenity, understreket at selskapets forskning viser at nåværende sikkerhetsmetoder ikke lenger er tilstrekkelige for hvordan AI-assistenter opererer. Han oppfordret organisasjoner til å endre sin tilnærming og investere i spesialiserte løsninger for å kontrollere og overvåke aktivitetene til disse «agentene».

Zenity ble grunnlagt i 2021. For tiden har selskapet omtrent 110 ansatte globalt, hvorav 70 jobber ved kontoret i Tel Aviv. Zenitys kunder inkluderer mange Fortune 100-selskaper, og til og med Fortune 5-selskaper.

Kommentar (0)