Uživatelé ChatGPT jsou vystaveni riziku krádeže svých informací.

Funkce dlouhodobé paměti ChatGPT je nová funkce, kterou OpenAI představila v únoru 2024 a v září byla rozšířena.

Bezpečnostní výzkumník Johann Rehberger nedávno odhalil závažnou zranitelnost související s touto funkcí.

Údajně tato nová funkce umožňuje chatbotům ukládat informace z předchozích konverzací. To eliminuje nutnost, aby uživatelé při každém chatu znovu zadávali informace, jako je věk, zájmy nebo osobní názory. Právě tato funkce se však stala zranitelností, kterou mohou útočníci zneužít.

Uživatelé ChatGPT jsou vystaveni riziku krádeže svých informací.

Johann Rehberger poukázal na to, že hackeři mohou používat techniky prompt injection – implantovat škodlivé instrukce do paměti umělé inteligence a nutit ji plnit příkazy. Tyto příkazy by byly doručovány prostřednictvím nedůvěryhodného obsahu, jako jsou e-maily, dokumenty nebo webové stránky.

Jakmile jsou tyto falešné vzpomínky uloženy, umělá inteligence je bude v konverzacích s uživatelem nadále používat jako skutečné informace. To může vést k neoprávněnému shromažďování a používání osobních údajů uživatelů.

Rehberger uvedl konkrétní příklad odesláním odkazu obsahujícího škodlivý obrázek, který způsobil, že ChatGPT uložil falešnou paměť. Tato informace ovlivnila následné odpovědi ChatGPT. Důležité je, že veškerý uživatelský vstup byl také odeslán na server hackera.

K aktivaci útoku tedy hacker pouze potřebuje přesvědčit uživatele ChatGPT, aby klikli na odkaz obsahující škodlivé obrázky. Poté budou veškeré konverzace uživatele s ChatGPT bez zanechání stop přesměrovány na server útočníka.

V květnu 2024 Rehberger po objevení zranitelnosti nahlásil tuto chybu společnosti OpenAi, ale ta ji označila za bezpečnostní chybu. Poté, co společnost obdržela důkazy o tom, že mohla být uživatelská data odcizena, vydala dočasnou opravu pro webovou verzi ChatGPT.

Přestože byl problém dočasně vyřešen, Rehberger zdůraznil, že nedůvěryhodný obsah může stále používat prompt injection k vložení falešných informací do dlouhodobé paměti ChatGPT. To znamená, že v určitých případech mohou hackeři tuto zranitelnost zneužít k ukládání škodlivých vzpomínek za účelem trvalé krádeže osobních údajů.

OpenAI doporučuje uživatelům pravidelně kontrolovat uložená data ChatGPT a odhalovat případné dezinformace. Společnost také poskytuje podrobné pokyny, jak spravovat a mazat uložená data v nástroji.

Zdroj: https://kinhtedothi.vn/nguoi-dung-chatgpt-co-nguy-co-bi-danh-cap-thong-tin.html