ChatGPT ujawnia dane osobowe z powodu „głupiego” błędu

Zespół badaczy twierdzi, że udało im się zmusić ChatGPT do ujawnienia pewnych danych, nakazując sztucznej inteligencji powtarzanie losowych słów.

Naukowcy z Google DeepMind, University of Washington, Cornell University, Carnegie Mellon University, University of California Berkeley i ETH Zurich zaapelowali do firm z branży sztucznej inteligencji o dokładne przetestowanie swoich produktów, od rozbudowanych modeli językowych po technologię leżącą u podstaw usług AI, takich jak chatboty i generatory obrazów, przed ich oficjalnym wypuszczeniem na rynek.

Ostrzeżenie pojawiło się po tym, jak badacze poprosili ChatGPT o powtarzanie słowa „poem” w nieskończonej pętli. ChatGPT zastosował się do prośby, ale następnie zaczął ujawniać prawdziwy adres e-mail i numer telefonu prezesa i współzałożyciela OpenAI. Po przetestowaniu słowa „company”, chatbot wyświetlił adres e-mail i numer telefonu losowo wybranej kancelarii prawnej.

Logo ChatGPT wyświetlane na smartfonie. Zdjęcie: Reuters

Używając innych słów kluczowych, udało im się również zmusić ChatGPT do ujawnienia adresów Bitcoin, numerów faksów, imion i nazwisk, dat urodzenia, kont w mediach społecznościowych, fragmentów prac naukowych objętych prawami autorskimi lub płatnych artykułów z CNN . Wygenerowanie 10 000 przykładów danych osobowych kosztowało zespół zaledwie 200 dolarów.

Naukowcy przyznali, że byli zaskoczeni, nazywając lukę w zabezpieczeniach ChatGPT „naprawdę głupią” i dodając, że powinna zostać odkryta wcześniej.

Luka została zgłoszona do OpenAI, a 30 sierpnia została załatana. Jednak w nowym teście Engadget , gdy poproszono ChatGPT o niekończące się powtarzanie słowa „odpowiedz”, strona technologiczna otrzymała czyjeś imię i identyfikator Skype.

OpenAI nie skomentowało jeszcze tej sprawy.

Generatywne systemy sztucznej inteligencji, takie jak ChatGPT czy generator tekstu na obraz Dall-E, opierają się na dużych modelach językowych i algorytmach uczenia maszynowego, trenowanych na ogromnych ilościach danych bez zgody użytkownika. OpenAI nie ujawniło, na jakich danych trenowany jest ChatGPT, ponieważ duży model językowy, na którym się opiera, jest zamkniętym źródłem.

Według Huy Duc - VnExpress

Źródło