De 'Zero Click'-kwetsbaarheid stelt hackers zelfs in staat om ChatGPT naar believen te manipuleren - Illustratie: AFP
Het Israëlische cybersecuritybedrijf Zenity heeft zojuist de eerste "Zero Click"-kwetsbaarheid onthuld die is ontdekt in de ChatGPT-service van OpenAI.
Bij dit type aanval hoeven gebruikers geen acties uit te voeren, zoals klikken op links, bestanden openen of andere bewuste interacties, maar toch kan er toegang worden verkregen tot accounts en gevoelige gegevens worden gelekt.
Mikhail Bergori, medeoprichter en CTO van Zenity, legde rechtstreeks uit hoe een hacker, simpelweg door het e-mailadres van een gebruiker te bemachtigen, gesprekken volledig kan controleren – inclusief de inhoud van eerdere en toekomstige gesprekken, het doel van gesprekken kan veranderen en zelfs ChatGPT kan manipuleren om te handelen volgens de wensen van de hacker.
In hun presentatie lieten de onderzoekers zien dat een gehackte ChatGPT een "malafide agent" kan worden die heimelijk tegen gebruikers opereert. Hackers kunnen ChatGPT ertoe aanzetten om gebruikers virusbevattende software te laten downloaden, misleidend zakelijk advies te geven of toegang te krijgen tot bestanden die op Google Drive zijn opgeslagen als het account van de gebruiker is gekoppeld. Dit alles gebeurt zonder medeweten van de gebruiker.
Het beveiligingslek werd pas volledig verholpen nadat Zenity OpenAI op de hoogte had gesteld.
Naast ChatGPT simuleerde Zenity ook verschillende vergelijkbare aanvallen op andere populaire AI-assistentplatformen. Bij Microsofts Copilot Studio ontdekten onderzoekers hoe complete CRM-databases gelekt konden worden.
In het geval van Salesforce Einstein konden hackers nep-serviceverzoeken aanmaken om alle klantcommunicatie om te leiden naar e-mailadressen die onder hun controle stonden.
Google Gemini en Microsoft 365 Copilot werden ook ingezet als "vijandige agenten" die phishing-aanvallen uitvoerden en gevoelige informatie lekten via e-mails en agenda-items.
In een ander voorbeeld werd de softwareontwikkelingstool Cursor, in combinatie met Jira MCP, misbruikt om de inloggegevens van programmeurs te stelen via nep-"tickets".
Zenity meldde dat sommige bedrijven, zoals OpenAI en Microsoft, snel patches uitbrachten nadat ze op de hoogte waren gebracht. Andere bedrijven weigerden echter het probleem aan te pakken en beweerden dat het ontdekte gedrag een "ontwerpkenmerk" was in plaats van een beveiligingslek.
Volgens Mikhail Bergori is de grootste uitdaging van vandaag dat AI-assistenten niet alleen eenvoudige taken uitvoeren, maar "digitale entiteiten" worden die gebruikers vertegenwoordigen – in staat om mappen te openen, bestanden te verzenden en e-mails te lezen. Hij waarschuwt dat dit een "toevluchtsoord" is voor hackers, omdat er te veel kwetsbaarheden zijn.
Ben Kaliger, medeoprichter en CEO van Zenity, benadrukte dat uit onderzoek van het bedrijf blijkt dat de huidige beveiligingsmethoden niet langer toereikend zijn voor de manier waarop AI-assistenten werken. Hij drong er bij organisaties op aan hun aanpak te veranderen en te investeren in gespecialiseerde oplossingen om de activiteiten van deze 'agenten' te controleren en te monitoren.
Zenity is opgericht in 2021. Het bedrijf heeft momenteel wereldwijd ongeveer 110 medewerkers, waarvan 70 op het kantoor in Tel Aviv werken. Tot de klanten van Zenity behoren veel bedrijven uit de Fortune 100 en zelfs bedrijven uit de Fortune 5.
Bron: https://tuoitre.vn/lo-hong-nghiem-trong-บน-chatgpt-va-loat-tro-ly-ai-nguoi-dung-bi-lua-dao-lo-thong-tin-20250811131018876.htm
Reactie (0)