Kod źródłowy oprogramowania AI DeepSeek ujawnia wiele niespodzianek

(Dan Tri) - Badacze zajmujący się bezpieczeństwem odkryli zaskakujące rzeczy w kodzie źródłowym DeepSeek, oprogramowania opartego na sztucznej inteligencji pochodzącego z Chin, które w ostatnich dniach wywołało globalne poruszenie.

Cechą szczególną DeepSeek jest to, że oprogramowanie jest rozwijane jako oprogramowanie typu open source, co pozwala społeczności na dołączanie do niego, a deweloperom na wbudowywanie tego narzędzia AI w swoje produkty.

W związku z globalnym „podnieceniem” DeepSeek, eksperci z firmy Wiz (USA), zajmującej się bezpieczeństwem, poddali szczegółowej analizie otwarty kod źródłowy tego narzędzia AI.

Eksperci odkryli, że narzędzie to ujawnia wiele ważnych baz danych, w tym logi systemowe, zawartość poleceń użytkownika, a nawet tokeny uwierzytelniania API (tokeny bezpieczeństwa służące do uwierzytelniania dostępu do interfejsów programistycznych DeepSeek)…

Odkryto, że narzędzie DeepSeek ujawniło wiele poufnych informacji w swoim kodzie źródłowym (ilustracja: CNBC).

Łącznie, osoby z zewnątrz mogą bez ograniczeń uzyskać dostęp do ponad miliona rekordów ważnych danych DeepSeek. Co ciekawe, dane te można znaleźć za pomocą kilku prostych technik, wykorzystując kod źródłowy, zamiast konieczności dogłębnego przeszukiwania i wykorzystywania ich w trudny sposób.

„To był poważny błąd ze strony DeepSeek, ponieważ poziom bezpieczeństwa był bardzo niski, a my mieliśmy bardzo szeroki dostęp bez żadnych ograniczeń uprawnień” – powiedział Ami Luttwak, dyrektor techniczny Wiz.

„To pokazuje, że DeepSeek nie jest na tyle bezpieczny, aby użytkownicy mogli udostępniać jakiekolwiek swoje wrażliwe i ważne dane” – dodał Luttwak.

Eksperci ds. bezpieczeństwa obawiają się również, że osoby naruszające zasady mogą wykorzystać wyciekłe bazy danych, aby wniknąć głębiej w system DeepSeek, uruchomić złośliwy kod w celu kradzieży danych użytkowników lub manipulowania odpowiedziami udzielanymi użytkownikom przez to narzędzie sztucznej inteligencji.

„Z punktu widzenia bezpieczeństwa stworzenie modelu sztucznej inteligencji i pozostawienie otwartych drzwi jest szokujące” – skomentował Jeremiah Fowler, niezależny badacz ds. bezpieczeństwa, po przeczytaniu raportu opublikowanego przez Wiz.

„Oznacza to, że każdy, kto ma połączenie z internetem, może uzyskać dostęp do tego narzędzia AI i nim manipulować, co stwarza ogromne ryzyko dla organizacji i użytkowników” – dodał Fowler.

Nadal nie jest jasne, czy jacyś złoczyńcy wykorzystali wyciek poufnych danych DeepSeek do przeprowadzenia ciemnych intryg.

Eksperci ds. bezpieczeństwa firmy Wiz próbowali skontaktować się z firmą DeepSeek, aby poinformować ją o swoich odkryciach.

DeepSeek milczał i nie odpowiedział. Jednak ponad pół godziny po wysłaniu raportu e-mailem eksperci Wiz odkryli, że wyciekłe dane w kodzie źródłowym DeepSeek nie są już dostępne, co oznaczało, że DeepSeek interweniował, aby rozwiązać problem.

DeepSeek to startup założony w 2023 roku przez Luonga Van Phonga. Siedziba firmy znajduje się w Hangzhou w Chinach.

20 stycznia DeepSeek udostępnił użytkownikom narzędzie oparte na sztucznej inteligencji o nazwie R1. Narzędzie to natychmiast „wywołało gorączkę” na całym świecie dzięki swojej imponującej i szybkiej reakcji.

Wielu użytkowników uważa również, że DeepSeek R1 dostarcza inteligentniejszych, dokładniejszych i szybszych odpowiedzi niż inne narzędzia ze sztuczną inteligencją, takie jak ChatGPT, Gemini czy Llama...

Najbardziej zaskakujące jest to, że koszt stworzenia i obsługi tego modelu sztucznej inteligencji wynosi zaledwie 5,6 mln USD, podczas gdy amerykańskie firmy technologiczne wydają setki, a nawet miliardy dolarów na opracowywanie i obsługę własnych modeli sztucznej inteligencji.

Kolejnym powodem, dla którego DeepSeek przyciąga uwagę świata technologii, jest fakt, że to narzędzie oparte na sztucznej inteligencji powstało i zostało opracowane w czasie, gdy rząd USA nakładał sankcje, uniemożliwiając chińskim firmom dostarczanie wydajnych układów scalonych opartych na sztucznej inteligencji.

Oznacza to, że DeepSeek został opracowany i działa na układach AI o niskiej wydajności, ale mimo to charakteryzuje się imponującą mocą.

Pojawienie się DeepSeek zwiastuje zacięty wyścig w rozwoju sztucznej inteligencji między dwoma supermocarstwami, USA i Chinami.

Jednak oprócz dużego uznania, wiele osób obawia się, że DeepSeek jest narzędziem rządu Pekinu służącym do zbierania informacji o użytkownikach za pomocą pytań i udzielania odpowiedzi korzystnych dla chińskiej polityki.

Źródło: https://dantri.com.vn/suc-manh-so/ma-nguon-cua-phan-mem-ai-deepseek-he-lo-nhieu-dieu-bat-ngo-20250131004242202.htm