Uživatelům ChatGPT Atlas mohou být data ukradena „permanentním“ malwarem

(Dan Tri) - Prohlížeč umělé inteligence ChatGPT Atlas od OpenAI byl právě zjištěn s vážnou bezpečnostní zranitelností.

Tato zranitelnost umožňuje útočníkům vkládat škodlivé příkazy do paměti umělé inteligence, čímž se užitečná funkce promění v trvalou zbraň pro spouštění libovolného kódu (ilustrační foto: ST).

Podle zprávy od společnosti LayerX Security tento útok zneužívá zranitelnost CSRF (cross-site request forgery) k vložení škodlivých příkazů do perzistentní paměti ChatGPT.

Funkce „Paměť“, která byla navržena pro to, aby si umělá inteligence pamatovala užitečné detaily, jako jsou jména uživatelů a preference, a mohla tak personalizovat odpovědi, nyní může být „poškozena“.

Jakmile je paměť infikována, tyto příkazy zůstanou trvale aktivní – pokud je uživatel ručně nesmaže v nastavení – a lze je spustit na více zařízeních a v různých relacích.

„Tuto zranitelnost činí obzvláště nebezpečnou proto, že cílí na perzistentní paměť umělé inteligence, nikoli pouze na relaci prohlížeče,“ uvedla Michelle Levyová, ředitelka bezpečnostního výzkumu ve společnosti LayerX Security.

„Jednoduše řečeno, útočník použije trik, aby ‚oklamal‘ umělou inteligenci a zapsal si do paměti škodlivý příkaz,“ vysvětluje Levy. „Nejnebezpečnější je, že tento příkaz v umělé inteligenci zůstane navždy – i když uživatel změní počítač, odhlásí se a znovu se přihlásí, nebo dokonce použije jiný prohlížeč.“

Později, když uživatel provede zcela běžný požadavek, může omylem spustit škodlivý kód. V důsledku toho mohou hackeři spouštět kód na pozadí, krást data nebo získat vyšší kontrolu nad systémem.“

Popsaný scénář útoku je poměrně jednoduchý: Nejprve se uživatel přihlásí do ChatGPT Atlas. Je podveden ke kliknutí na škodlivý odkaz, načež škodlivý web tajně spustí CSRF požadavek a tiše vloží škodlivé instrukce do paměti ChatGPT oběti.

Nakonec, když uživatel zadá zcela legitimní dotaz, například požádá umělou inteligenci o napsání kódu, aktivují se zkažené „vzpomínky“.

Problém zhoršuje absence silných anti-phishingových kontrol v ChatGPT Atlas, zdůrazňuje LayerX.

V testech s více než 100 exploity a phishingovými weby Atlas zablokoval pouze 5,8 % škodlivých webů.

Toto číslo je ve srovnání s Google Chrome (47 %) nebo Microsoft Edge (53 %) příliš nízké, což uživatele Atlasu činí „až o 90 % zranitelnějšími“ vůči útokům než tradiční prohlížeče.

Tento objev navazuje na další zranitelnost umožňující rychlé vkládání malwaru, kterou dříve prokázala společnost NeuralTrust, a naznačuje, že prohlížeče s umělou inteligencí se stávají novou frontou útoku.

Webový prohlížeč ChatGPT Atlas byl spuštěn společností OpenAI začátkem minulého týdne. Není divu, že OpenAI do tohoto prohlížeče integrovala nástroj umělé inteligence ChatGPT, což pomáhá lépe podporovat uživatele při prohlížení webu.

Kdykoli uživatel klikne na výsledek vyhledávání v ChatGPT Atlas, zobrazí se hned vedle okna webové stránky dialogové okno ChatGPT, které mu umožňuje klást otázky týkající se prohlíženého obsahu, a ušetřit tak čas strávený čtením.

ChatGPT dokáže také shrnout obsah webových stránek, upravovat text při psaní e-mailu nebo navrhovat jeho přepsání tak, aby lépe odpovídal kontextu.

Zdroj: https://dantri.com.vn/cong-nghe/nguoi-dung-chatgpt-atlas-co-the-bi-danh-cap-du-lieu-voi-ma-doc-vinh-vien-20251028111706750.htm