Uživatelům ChatGPT Atlas mohou být data ukradena „permanentním“ malwarem.

(Dan Tri Newspaper) - Prohlížeč ChatGPT Atlas od OpenAI s umělou inteligencí má právě závažnou bezpečnostní zranitelnost.

Tato zranitelnost umožňuje útočníkům vkládat škodlivé příkazy přímo do paměti umělé inteligence, čímž se užitečná funkce promění v trvalou zbraň pro spouštění libovolného kódu (ilustrační obrázek: ST).

Podle zprávy od společnosti LayerX Security tento útok zneužil zranitelnost Cross-Site Request Forgery (CSRF) k vložení škodlivých příkazů do perzistentní paměti ChatGPT.

Funkce „Paměť“, původně navržená pro umělou inteligenci, aby si pamatovala užitečné detaily, jako jsou uživatelská jména a preference pro personalizované odpovědi, nyní může být „poškozena“.

Jakmile je paměť napadena malwarem, tyto příkazy zůstanou trvale v paměti – pokud je uživatel ručně neodstraní v nastavení – a lze je spustit na více zařízeních a v různých relacích.

„Tuto zranitelnost činí obzvláště nebezpečnou proto, že cílí na perzistentní paměť umělé inteligence, nikoli pouze na relaci prohlížeče,“ uvedla Michelle Levyová, ředitelka bezpečnostního výzkumu ve společnosti LayerX Security.

Levy vysvětlil: „Jednoduše řečeno, útočník použije trik, aby ‚oklamal‘ umělou inteligenci a donutil ji zapsat si do paměti škodlivý příkaz. Nejnebezpečnější je, že tento příkaz zůstane v umělé inteligenci trvale – i když uživatel přepne počítač, odhlásí se a znovu se přihlásí, nebo dokonce použije jiný prohlížeč.“

Později, když uživatel provede zcela běžný požadavek, může neúmyslně aktivovat malware. V důsledku toho mohou hackeři nenápadně spouštět kód, krást data nebo získat vyšší kontrolu nad systémem.“

Popsaný scénář útoku je poměrně jednoduchý: Nejprve se uživatel přihlásí do služby ChatGPT Atlas. Je oklamán ke kliknutí na škodlivý odkaz, poté škodlivá webová stránka tajně spustí CSRF požadavek a tiše vloží škodlivé instrukce do paměti ChatGPT oběti.

Nakonec, když uživatel provede naprosto legitimní dotaz, například požádá umělou inteligenci o napsání kódu, infikované „vzpomínky“ se spustí.

LayerX poukazuje na to, že problém zhoršuje absence robustních anti-phishingových kontrol v ChatGPT Atlas.

V testech zahrnujících více než 100 zranitelností a phishingových stránek se Atlasu podařilo zablokovat pouze 5,8 % škodlivých webových stránek.

Toto číslo je ve srovnání s Google Chrome (47 %) nebo Microsoft Edge (53 %) příliš nízké, což uživatele Atlasu činí „až o 90 % zranitelnějšími“ vůči útokům ve srovnání s tradičními prohlížeči.

Tento objev navazuje na další zranitelnost umožňující rychlé vstřikování malwaru, kterou dříve prokázala společnost NeuralTrust a která ukazuje, že prohlížeče s umělou inteligencí se stávají novou frontou útoku.

Společnost OpenAI spustila webový prohlížeč ChatGPT Atlas začátkem minulého týdne. Není divu, že OpenAI do tohoto prohlížeče integrovala svůj engine umělé inteligence ChatGPT, což uživatelům poskytuje lepší podporu při prohlížení webu.

Kdykoli uživatel klikne na výsledek vyhledávání v ChatGPT Atlas, zobrazí se hned vedle okna webové stránky dialogové okno ChatGPT, které mu umožní klást otázky týkající se prohlíženého obsahu, což mu ušetří čas při čtení.

ChatGPT dokáže také shrnout obsah webových stránek, upravovat text při psaní e-mailů nebo navrhovat způsoby, jak jej přepsat tak, aby lépe odpovídal kontextu.

Zdroj: https://dantri.com.vn/cong-nghe/nguoi-dung-chatgpt-atlas-co-the-bi-danh-cap-du-lieu-voi-ma-doc-vinh-vien-20251028111706750.htm