Uživatelé ChatGPT jsou ohroženi krádeží informací

Funkce dlouhodobé paměti ChatGPT je nová funkce, kterou OpenAI představila v únoru 2024 a v září byla rozšířena.

Bezpečnostní výzkumník Johann Rehberger nedávno odhalil závažnou zranitelnost související s touto funkcí.

Je známo, že tato nová funkce pomáhá chatbotům ukládat informace z předchozích konverzací. Díky tomu uživatelé nemusí při každém chatu znovu zadávat informace, jako je věk, zájmy nebo osobní názory. To se však stalo slabinou, kterou útočníci mohou zneužít.

Uživatelé ChatGPT jsou ohroženi krádeží informací

Johann Rehberger ukázal, že hackeři mohou použít techniku ​​zvanou prompt injection – vložení škodlivých instrukcí do paměti, čímž donutí umělou inteligenci k poslechu. Tyto příkazy by byly doručovány prostřednictvím nedůvěryhodného obsahu, jako jsou e-maily, dokumenty nebo webové stránky.

Jakmile jsou tyto falešné vzpomínky uloženy, umělá inteligence je bude v konverzacích s uživateli nadále používat jako skutečné zprávy, což by mohlo vést ke shromažďování a zneužívání osobních údajů uživatelů.

Rehberger uvedl konkrétní příklad odesláním odkazu obsahujícího škodlivý obrázek, který způsobil, že ChatGPT uložil falešnou paměť. Tato informace ovlivnila budoucí odpovědi ChatGPT. Zejména veškeré informace, které uživatel zadal, byly také odeslány na server hackera.

K zahájení útoku tedy hacker pouze potřebuje přesvědčit uživatele ChatGPT, aby klikli na odkaz obsahující škodlivý obrázek. Poté budou všechny chaty uživatelů s ChatGPT bez zanechání jakékoli stopy přesměrovány na server útočníka.

Rehberger nahlásil chybu společnosti OpenAi v květnu 2024, ale společnost ji považovala pouze za bezpečnostní problém. Poté, co společnost obdržela důkazy o tom, že by mohla být uživatelská data odcizena, vydala dočasnou opravu pro webovou verzi ChatGPT.

I když byl problém dočasně opraven, Rehberger poznamenává, že nedůvěryhodný obsah může stále používat funkci Prompt injection k vložení falešných informací do dlouhodobé paměti ChatGPT. To znamená, že v určitých případech mohou hackeři tuto zranitelnost zneužít k ukládání škodlivých vzpomínek a dlouhodobému odcizení osobních údajů.

Společnost OpenAI doporučuje uživatelům pravidelně kontrolovat uložené paměti ChatGPT, zda neobsahují falešně pozitivní výsledky, a společnost také poskytuje podrobné pokyny, jak uložené paměti spravovat a mazat.

Zdroj: https://kinhtedothi.vn/nguoi-dung-chatgpt-co-nguy-co-bi-danh-cap-thong-tin.html