ChatGPT Atlas-brukere kan få dataene sine stjålet med «permanent» skadelig programvare

(Dan Tri) – OpenAIs AI-nettleser ChatGPT Atlas har nettopp blitt oppdaget med en alvorlig sikkerhetssårbarhet.

Denne sårbarheten lar angripere injisere ondsinnede kommandoer i AI-ens eget minne, og dermed gjøre en nyttig funksjon om til et vedvarende våpen for å kjøre vilkårlig kode (Illustrasjonsfoto: ST).

Ifølge en rapport fra LayerX Security utnytter dette angrepet en sårbarhet for cross-site request forgery (CSRF) for å injisere ondsinnede kommandoer i ChatGPTs vedvarende minne.

«Minne»-funksjonen, som ble utviklet for at AI skulle huske nyttige detaljer som brukernavn og preferanser for å tilpasse svar, kan nå «ødelegges».

Når minnet er infisert, vil disse kommandoene vare permanent – ​​med mindre brukeren manuelt går inn i innstillingene for å slette dem – og kan utløses på tvers av flere enheter og økter.

«Det som gjør denne sårbarheten spesielt farlig, er at den retter seg mot AI-ens vedvarende minne, ikke bare nettleserøkten», sa Michelle Levy, direktør for sikkerhetsforskning hos LayerX Security.

«Enkelt sagt bruker en angriper et triks for å «lure» AI-en til å skrive en ondsinnet kommando inn i minnet», forklarer Levy. «Den farligste delen er at denne kommandoen forblir i AI-en for alltid – selv om brukeren bytter datamaskin, logger ut og inn igjen, eller til og med bruker en annen nettleser.»

Senere, når en bruker kommer med en helt normal forespørsel, kan de ved et uhell utløse den ondsinnede koden. Som et resultat kan hackere kjøre kode i bakgrunnen, stjele data eller få bedre kontroll over systemet.

Angrepsscenarioet som beskrives er ganske enkelt: Først logger en bruker seg inn på ChatGPT Atlas. De blir lurt til å klikke på en ondsinnet lenke, hvoretter det ondsinnede nettstedet i hemmelighet utløser en CSRF-forespørsel, og injiserer i stillhet ondsinnede instruksjoner i offerets ChatGPT-minne.

Til slutt, når en bruker foretar en helt legitim forespørsel, for eksempel å be AI-en om å skrive kode, utløses de forurensede «minnene».

Problemet forverres av ChatGPT Atlas' mangel på sterke anti-phishing-kontroller, påpeker LayerX.

I tester med over 100 angrep og phishing-nettsteder blokkerte Atlas bare 5,8 % av ondsinnede nettsteder.

Dette tallet er for beskjedent sammenlignet med Google Chrome (47 %) eller Microsoft Edge (53 %), noe som gjør Atlas-brukere «opptil 90 % mer sårbare» for angrep enn tradisjonelle nettlesere.

Denne oppdagelsen følger et annet sårbarhet for rask injeksjon av skadelig programvare som tidligere ble demonstrert av NeuralTrust, noe som tyder på at AI-nettlesere er i ferd med å bli en ny angrepsfront.

Nettleseren ChatGPT Atlas ble lansert av OpenAI tidligere i forrige uke. Det er ikke overraskende at OpenAI integrerte ChatGPTs kunstige intelligensverktøy i denne nettleseren, noe som bidrar til å bedre støtte brukerne når de surfer på nettet.

Når en bruker klikker på et søkeresultat i ChatGPT Atlas, vises en ChatGPT-dialogboks rett ved siden av nettsidevinduet, slik at de kan stille spørsmål relatert til innholdet de ser på, noe som sparer dem tid på lesing.

ChatGPT kan også oppsummere innhold på nettsider, redigere tekst når du skriver en e-post, eller foreslå å omskrive den slik at den passer bedre til konteksten.

Kilde: https://dantri.com.vn/cong-nghe/nguoi-dung-chatgpt-atlas-co-the-bi-danh-cap-du-lieu-voi-ma-doc-vinh-vien-20251028111706750.htm