Kod źródłowy oprogramowania DeepSeek AI kryje w sobie wiele niespodzianek.

(Gazeta Dan Tri) - Badacze ds. bezpieczeństwa odkryli zaskakujące rzeczy w kodzie źródłowym DeepSeek, oprogramowania ze sztuczną inteligencją pochodzącego z Chin, które w ostatnich dniach wywołało ogólnoświatową sensację.

Cechą charakterystyczną DeepSeek jest to, że oprogramowanie jest rozwijane jako oprogramowanie typu open source, co pozwala społeczności na udział i pozwala deweloperom na wbudowywanie tego narzędzia AI w swoje produkty.

W związku ze światową sensacją wokół DeepSeek, eksperci z amerykańskiej firmy zajmującej się bezpieczeństwem Wiz przeprowadzili szczegółową analizę kodu źródłowego tego narzędzia sztucznej inteligencji.

Eksperci odkryli, że narzędzie to ujawniało wiele ich krytycznych baz danych, w tym logi systemowe, zawartość poleceń użytkownika, a nawet tokeny uwierzytelniania API (kody bezpieczeństwa służące do dostępu do interfejsów programistycznych DeepSeek)...

Odkryto, że narzędzie DeepSeek ujawniało wiele poufnych informacji w swoim kodzie źródłowym (ilustracja: CNBC).

Łącznie osoby z zewnątrz mogą bez ograniczeń uzyskać dostęp do ponad miliona rekordów krytycznych danych DeepSeek. Co istotne, dane te można znaleźć za pomocą kilku prostych technik, wykorzystując kod źródłowy, bez konieczności głębokiego przeszukiwania i trudnej eksploatacji.

„To był poważny błąd ze strony DeepSeek, ponieważ poziom bezpieczeństwa był bardzo niski, a my mieliśmy bardzo szeroki dostęp bez żadnych ograniczeń uprawnień” – powiedział Ami Luttwak, dyrektor ds. technologii w firmie Wiz.

„To pokazuje, że DeepSeek nie jest na tyle bezpieczny, aby użytkownicy mogli udostępniać jakiekolwiek swoje wrażliwe i ważne dane” – dodał Luttwak.

Eksperci ds. bezpieczeństwa obawiają się również, że osoby o złych zamiarach mogą wykorzystać wyciekłe bazy danych, aby uzyskać głębszy dostęp do systemów DeepSeek, uruchomić złośliwy kod w celu kradzieży danych użytkowników lub manipulować odpowiedziami udzielanymi użytkownikom przez narzędzie AI.

„Z perspektywy bezpieczeństwa to szokujące, że stworzyliśmy model sztucznej inteligencji, pozostawiając otwarte furtki” – skomentował Jeremiah Fowler, niezależny badacz ds. bezpieczeństwa, po przeczytaniu raportu opublikowanego przez Wiz.

„Oznacza to, że każdy, kto ma połączenie z internetem, może uzyskać dostęp do tego narzędzia AI i nim manipulować, co stwarza poważne ryzyko dla organizacji i użytkowników” – dodał Fowler.

Nadal nie jest jasne, czy jacyś źli atakujący wykorzystali wyciek poufnych danych z DeepSeek do przeprowadzenia nikczemnych działań.

Eksperci ds. bezpieczeństwa firmy Wiz próbowali skontaktować się z firmą DeepSeek, aby ostrzec ją o swoich odkryciach.

DeepSeek milczał i nie odpowiedział. Jednak ponad pół godziny po wysłaniu raportu e-mailem eksperci Wiz zauważyli, że wyciekłe dane w kodzie źródłowym DeepSeek nie są już dostępne, co oznaczało, że DeepSeek interweniował, aby rozwiązać problem.

DeepSeek to startup założony w 2023 roku przez Luonga Van Phonga. Siedziba firmy znajduje się w Hangzhou w Chinach.

20 stycznia DeepSeek udostępnił użytkownikom swoje narzędzie AI o nazwie R1. Narzędzie to natychmiast stało się globalną sensacją dzięki swojej szybkości i imponującym możliwościom reagowania.

Wielu użytkowników uważa również, że DeepSeek R1 dostarcza inteligentniejszych, dokładniejszych i szybszych odpowiedzi w porównaniu z innymi narzędziami opartymi na sztucznej inteligencji, takimi jak ChatGPT, Gemini czy Llama…

Najbardziej zadziwiające jest to, że koszty stworzenia i eksploatacji tego modelu sztucznej inteligencji wyniosły zaledwie 5,6 miliona dolarów, podczas gdy amerykańskie firmy technologiczne wydają setki milionów, a nawet miliardy dolarów na opracowywanie i obsługę własnych modeli sztucznej inteligencji.

Innym powodem, dla którego DeepSeek przyciągnął uwagę świata technologii, jest fakt, że to narzędzie oparte na sztucznej inteligencji powstało i zostało opracowane w czasie, gdy rząd USA nakładał sankcje, blokując dostawy wydajnych układów scalonych ze sztuczną inteligencją do chińskich firm.

Oznacza to, że technologia DeepSeek została opracowana i działa na układach AI o niskiej wydajności, ale nadal charakteryzuje się imponującą mocą.

Pojawienie się DeepSeek zwiastuje zacięty wyścig w rozwoju sztucznej inteligencji między dwoma supermocarstwami, Stanami Zjednoczonymi i Chinami.

Jednak obok pochwał wiele osób wyraziło obawy, że DeepSeek to narzędzie wykorzystywane przez rząd w Pekinie do zbierania informacji o użytkownikach za pomocą pytań i udzielania odpowiedzi, które przynoszą korzyści chińskiej polityce.

Źródło: https://dantri.com.vn/suc-manh-so/ma-nguon-cua-phan-mem-ai-deepseek-he-lo-nhieu-dieu-bat-ngo-20250131004242202.htm