Użytkownicy ChatGPT narażeni na kradzież informacji

Funkcja pamięci długoterminowej ChatGPT to nowa funkcja wprowadzona przez OpenAI w lutym 2024 r. i rozszerzona we wrześniu.

Niedawno badacz ds. bezpieczeństwa Johann Rehberger ujawnił poważną lukę w zabezpieczeniach związaną z tą funkcją.

Wiadomo, że ta nowa funkcja pomaga chatbotom przechowywać informacje z poprzednich rozmów. Dzięki temu użytkownicy nie muszą za każdym razem wprowadzać ponownie informacji, takich jak wiek, zainteresowania czy poglądy osobiste. Jednak ta luka stała się słabym punktem dla atakujących.

Użytkownicy ChatGPT narażeni na kradzież informacji

Johann Rehberger wykazał, że hakerzy mogą stosować technikę zwaną „szybkim wstrzyknięciem” (prompt injection) – wklejając złośliwe instrukcje do pamięci, zmuszając sztuczną inteligencję do ich wykonania. Polecenia te byłyby przekazywane za pośrednictwem niezaufanych treści, takich jak e-maile, dokumenty czy strony internetowe.

Gdy te fałszywe wspomnienia zostaną zapisane, sztuczna inteligencja będzie nadal używać ich jako prawdziwych wiadomości w rozmowach z użytkownikami, co może prowadzić do gromadzenia i niewłaściwego wykorzystania danych osobowych użytkowników.

Rehberger podał konkretny przykład, wysyłając link zawierający złośliwy obraz, który powodował, że ChatGPT zapisywał fałszywą pamięć. Informacja ta miała wpływ na przyszłe odpowiedzi ChatGPT. W szczególności wszelkie informacje wprowadzone przez użytkownika byłyby również wysyłane na serwer hakera.

W związku z tym, aby uruchomić atak, haker musi jedynie przekonać użytkowników ChatGPT do kliknięcia linku zawierającego złośliwy obraz. Następnie wszystkie rozmowy użytkownika z ChatGPT zostaną przekierowane na serwer atakującego bez pozostawiania śladów.

Rehberger zgłosił błąd do OpenAi w maju 2024 roku, ale firma uznała go jedynie za zagrożenie bezpieczeństwa. Po otrzymaniu dowodów na możliwość kradzieży danych użytkowników, firma wydała tymczasową poprawkę do internetowej wersji ChatGPT.

Chociaż problem został tymczasowo rozwiązany, Rehberger zauważa, że ​​niezaufane treści nadal mogą wykorzystywać ataki Prompt Injection do wstawiania fałszywych informacji do pamięci długoterminowej ChatGPT. Oznacza to, że w niektórych przypadkach hakerzy mogą nadal wykorzystywać tę lukę do przechowywania złośliwych wspomnień w celu długoterminowej kradzieży danych osobowych.

OpenAI zaleca użytkownikom regularne sprawdzanie zapisanych pamięci ChatGPT pod kątem fałszywych alarmów. Firma udostępnia również szczegółowe instrukcje dotyczące zarządzania zapisanymi pamięciami i ich usuwania.

Źródło: https://kinhtedothi.vn/nguoi-dung-chatgpt-co-nguy-co-bi-danh-cap-thong-tin.html