Denna sårbarhet gör det möjligt för angripare att injicera skadliga kommandon direkt i AI:ns minne, vilket förvandlar en användbar funktion till ett beständigt vapen för att exekvera godtycklig kod (Illustrativ bild: ST).
Enligt en rapport från LayerX Security utnyttjade den här attacken en sårbarhet för Cross-Site Request Forgery (CSRF) för att injicera skadliga kommandon i ChatGPT:s permanenta minne.
Funktionen "Minne", som ursprungligen var utformad för att AI skulle komma ihåg användbara detaljer som användarnamn och preferenser för personliga svar, kan nu "brytas".
När minnet har infekterats med skadlig kod kommer dessa kommandon att finnas kvar permanent – såvida inte användaren manuellt tar bort dem via inställningarna – och kan utlösas över flera enheter och sessioner.
"Det som gör den här sårbarheten särskilt farlig är att den riktar sig mot AI:ns permanenta minne, inte bara webbläsarsessionen", säger Michelle Levy, chef för säkerhetsforskning på LayerX Security.
Levy förklarade: ”Enkelt uttryckt använder angriparen ett trick för att ’lura’ AI:n och tvinga den att skriva ett skadligt kommando till sitt minne. Det farligaste är att detta kommando kommer att finnas kvar permanent i AI:n – även om användaren byter dator, loggar ut och in igen, eller till och med använder en annan webbläsare.”
Senare, när en användare gör en helt normal begäran, kan de oavsiktligt aktivera skadlig programvara. Som ett resultat kan hackare köra kod i smyg, stjäla data eller få större kontroll över systemet.
Attackscenariot som beskrivs är ganska enkelt: Först loggar användaren in i ChatGPT Atlas. De luras att klicka på en skadlig länk, sedan utlöser den skadliga webbplatsen i hemlighet en CSRF-förfrågan och infogar tyst skadliga instruktioner i offrets ChatGPT-minne.
Slutligen, när en användare gör en helt legitim fråga, till exempel att be AI:n att skriva kod, kommer de infekterade "minnena" att utlösas.
LayerX påpekar att problemet förvärras av ChatGPT Atlas brist på robusta anti-phishing-kontroller.
I tester som involverade över 100 sårbarheter och nätfiskewebbplatser lyckades Atlas bara blockera 5,8 % av skadliga webbplatser.
Denna siffra är alldeles för blygsam jämfört med Google Chrome (47 %) eller Microsoft Edge (53 %), vilket gör Atlas-användare "upp till 90 % mer sårbara" för attacker jämfört med traditionella webbläsare.
Denna upptäckt följer på ytterligare en sårbarhet för snabb injektion av skadlig kod som tidigare demonstrerats av NeuralTrust, vilket visar att AI-webbläsare håller på att bli en ny attackfront.
OpenAI lanserade webbläsaren ChatGPT Atlas tidigare förra veckan. Inte helt oväntat integrerade OpenAI sin artificiella intelligensmotor ChatGPT i webbläsaren, vilket ger bättre stöd för användare när de surfar på webben.
När en användare klickar på ett sökresultat i ChatGPT Atlas visas en ChatGPT-dialogruta bredvid webbsidans fönster, så att de kan ställa frågor relaterade till innehållet som visas, vilket sparar lästid.
ChatGPT kan också sammanfatta webbplatsinnehåll, redigera text när du skriver e-postmeddelanden eller föreslå sätt att skriva om det för att bättre passa sammanhanget.
Källa: https://dantri.com.vn/cong-nghe/nguoi-dung-chatgpt-atlas-co-the-bi-danh-cap-du-lieu-voi-ma-doc-vinh-vien-20251028111706750.htm
Kommentar (0)