Denne sårbarheten lar angripere injisere ondsinnede kommandoer direkte i AI-ens minne, og dermed gjøre en nyttig funksjon om til et vedvarende våpen for å kjøre vilkårlig kode (Illustrasjonsbilde: ST).
Ifølge en rapport fra LayerX Security utnyttet dette angrepet en sårbarhet for Cross-Site Request Forgery (CSRF) for å injisere ondsinnede kommandoer i ChatGPTs vedvarende minne.
«Minne»-funksjonen, som opprinnelig ble utviklet for at AI skulle huske nyttige detaljer som brukernavn og preferanser for personlige svar, kan nå «deaktiveres».
Når minnet er infisert med skadelig programvare, vil disse kommandoene vare permanent – med mindre brukeren sletter dem manuelt via innstillingene – og kan utløses på tvers av flere enheter og økter.
«Det som gjør denne sårbarheten spesielt farlig, er at den retter seg mot AI-ens vedvarende minne, ikke bare nettleserøkten», sa Michelle Levy, direktør for sikkerhetsforskning hos LayerX Security.
Levy forklarte: «Enkelt sagt bruker angriperen et triks for å «lure» AI-en, og tvinger den til å skrive en ondsinnet kommando til minnet. Den farligste delen er at denne kommandoen vil forbli permanent i AI-en – selv om brukeren bytter datamaskin, logger ut og logger inn igjen, eller til og med bruker en annen nettleser.»
Senere, når en bruker kommer med en helt normal forespørsel, kan de utilsiktet aktivere skadevaren. Som et resultat kan hackere kjøre kode i det skjulte, stjele data eller få bedre kontroll over systemet.
Angrepsscenarioet som beskrives er ganske enkelt: Først logger brukeren seg inn på ChatGPT Atlas. De blir lurt til å klikke på en ondsinnet lenke, deretter utløser det ondsinnede nettstedet i hemmelighet en CSRF-forespørsel, og legger stille inn ondsinnede instruksjoner i offerets ChatGPT-minne.
Til slutt, når en bruker foretar en helt legitim forespørsel, for eksempel å be AI-en om å skrive kode, vil de infiserte «minnene» bli utløst.
LayerX påpeker at problemet forverres av ChatGPT Atlas' mangel på robuste anti-phishing-kontroller.
I tester som involverte over 100 sårbarheter og phishing-nettsteder, klarte Atlas bare å blokkere 5,8 % av ondsinnede nettsteder.
Dette tallet er altfor beskjedent sammenlignet med Google Chrome (47 %) eller Microsoft Edge (53 %), noe som gjør Atlas-brukere «opptil 90 % mer sårbare» for angrep sammenlignet med tradisjonelle nettlesere.
Denne oppdagelsen følger et annet sårbarhet for rask injeksjon av skadelig programvare som tidligere ble demonstrert av NeuralTrust, og som viser at nettlesere med kunstig intelligens er i ferd med å bli en ny angrepsfront.
OpenAI lanserte nettleseren ChatGPT Atlas tidligere i forrige uke. Ikke overraskende integrerte OpenAI sin kunstige intelligensmotor ChatGPT i denne nettleseren, noe som gir bedre støtte for brukere mens de surfer på nettet.
Når en bruker klikker på et søkeresultat i ChatGPT Atlas, vises en ChatGPT-dialogboks rett ved siden av nettsidevinduet, slik at de kan stille spørsmål relatert til innholdet som vises, noe som sparer lesetid.
ChatGPT kan også oppsummere nettstedsinnhold, redigere tekst når du skriver e-poster, eller foreslå måter å omskrive det på for å bedre passe konteksten.
Kilde: https://dantri.com.vn/cong-nghe/nguoi-dung-chatgpt-atlas-co-the-bi-danh-cap-du-lieu-voi-ma-doc-vinh-vien-20251028111706750.htm
Kommentar (0)