Uživatelé ChatGPT jsou ohroženi krádeží informací

Funkce dlouhodobé paměti ChatGPT je nová funkce, kterou OpenAI představila v únoru 2024 a v září byla rozšířena.

Bezpečnostní výzkumník Johann Rehberger nedávno odhalil závažnou zranitelnost související s touto funkcí.

Je známo, že tato nová funkce pomáhá chatbotům ukládat informace z předchozích konverzací. Díky tomu uživatelé nemusí při každém chatu znovu zadávat informace, jako je věk, zájmy nebo osobní názory. To se však stalo slabinou, kterou útočníci mohou zneužít.

Uživatelé ChatGPT jsou ohroženi krádeží informací

Johann Rehberger ukázal, že hackeři mohou použít techniku ​​zvanou prompt injection – vkládání škodlivých instrukcí do paměti a nucení umělé inteligence k poslechu. Tyto příkazy by byly doručovány prostřednictvím nedůvěryhodného obsahu, jako jsou e-maily, dokumenty nebo webové stránky.

Jakmile jsou tyto falešné vzpomínky uloženy, umělá inteligence je bude v konverzacích s uživateli nadále používat jako skutečné informace, což by mohlo vést ke shromažďování a zneužívání osobních údajů uživatelů.

Rehberger uvedl konkrétní příklad odesláním odkazu obsahujícího škodlivý obrázek, který způsobil, že ChatGPT uložil falešnou paměť. Tato informace ovlivnila budoucí odpovědi ChatGPT. Zejména veškeré informace, které uživatel zadal, byly také odeslány na server hackera.

K zahájení útoku tedy hacker pouze potřebuje přesvědčit uživatele ChatGPT, aby klikli na odkaz obsahující škodlivý obrázek. Poté budou všechny chaty uživatele s ChatGPT bez zanechání jakékoli stopy přesměrovány na server útočníka.

Rehberger nahlásil chybu společnosti OpenAi v květnu 2024, ale společnost ji považovala pouze za bezpečnostní chybu. Poté, co společnost obdržela důkazy o tom, že by mohla být uživatelská data odcizena, vydala dočasnou záplatu pro webovou verzi ChatGPT.

I když byl problém dočasně opraven, Rehberger poznamenává, že nedůvěryhodný obsah může stále používat technologii Prompt injection k vložení falešných informací do dlouhodobé paměti ChatGPT. To znamená, že v určitých případech by hackeři mohli tuto zranitelnost zneužít k ukládání škodlivých vzpomínek a dlouhodobému odcizení osobních údajů.

OpenAI doporučuje uživatelům pravidelně kontrolovat uložené paměti ChatGPT, zda neobsahují falešně pozitivní výsledky, a společnost také poskytuje podrobné pokyny, jak spravovat a mazat paměti uložené v nástroji.

Zdroj: https://kinhtedothi.vn/nguoi-dung-chatgpt-co-nguy-co-bi-danh-cap-thong-tin.html