De langetermijngeheugenfunctie van ChatGPT is een nieuwe functie die in februari 2024 door OpenAI werd geïntroduceerd en in september werd uitgebreid.
Beveiligingsonderzoeker Johann Rehberger heeft onlangs een ernstig beveiligingslek met betrekking tot deze functie onthuld.
Het is bekend dat deze nieuwe functie chatbots helpt informatie uit eerdere gesprekken op te slaan. Hierdoor hoeven gebruikers niet elke keer dat ze chatten opnieuw informatie in te voeren, zoals leeftijd, interesses of persoonlijke voorkeuren. Dit is echter een zwakke plek geworden voor aanvallers.
Johann Rehberger heeft aangetoond dat hackers een techniek genaamd prompt injection kunnen gebruiken: het invoegen van kwaadaardige instructies in het geheugen, waardoor de AI gedwongen wordt te gehoorzamen. Deze opdrachten zouden via onbetrouwbare content zoals e-mails, documenten of websites worden verzonden.
Zodra deze nepherinneringen zijn opgeslagen, zal de AI ze blijven gebruiken als echte berichten in gesprekken met gebruikers. Dit kan leiden tot het verzamelen en misbruiken van de persoonlijke gegevens van gebruikers.
Rehberger gaf een concreet voorbeeld door een link te versturen met een schadelijke afbeelding die ervoor zorgde dat ChatGPT een vals geheugen opsloeg. Deze informatie zou de toekomstige reacties van ChatGPT beïnvloeden. Alle informatie die de gebruiker invoerde, zou ook naar de server van de hacker worden gestuurd.
Om de aanval te activeren, hoeft de hacker ChatGPT-gebruikers er alleen maar van te overtuigen op een link met een schadelijke afbeelding te klikken. Daarna worden alle chats van de gebruiker met ChatGPT doorgestuurd naar de server van de aanvaller, zonder sporen achter te laten.
Rehberger meldde de bug in mei 2024 aan OpenAi, maar het bedrijf beschouwde het slechts als een beveiligingsprobleem. Nadat het bewijs had ontvangen dat gebruikersgegevens gestolen konden worden, bracht het bedrijf een tijdelijke patch uit voor de webversie van ChatGPT.
Hoewel het probleem tijdelijk is opgelost, merkt Rehberger op dat niet-vertrouwde content nog steeds Prompt Injection kan gebruiken om nep-informatie in het langetermijngeheugen van ChatGPT te plaatsen. Dit betekent dat hackers in bepaalde gevallen nog steeds misbruik kunnen maken van de kwetsbaarheid om schadelijke herinneringen op te slaan en persoonlijke informatie op de lange termijn te stelen.
OpenAI adviseert gebruikers om de opgeslagen herinneringen van ChatGPT regelmatig te controleren op foutpositieve resultaten. Het bedrijf biedt daarnaast gedetailleerde instructies over hoe u opgeslagen herinneringen kunt beheren en verwijderen.
Bron: https://kinhtedothi.vn/nguoi-dung-chatgpt-co-nguy-co-bi-danh-cap-thong-tin.html
Reactie (0)