(Dan Tri Newspaper) - Bezpečnostní výzkumníci objevili překvapivé věci ve zdrojovém kódu DeepSeek, softwaru umělé inteligence pocházejícího z Číny, který v posledních dnech způsobil celosvětovou senzaci.
DeepSeek je výjimečný tím, že je vyvíjen jako open source, což umožňuje komunitě zapojit se a vývojářům integrovat tento nástroj umělé inteligence do svých produktů.
Uprostřed celosvětového rozruchu kolem DeepSeeku provedli experti z americké bezpečnostní firmy Wiz důkladnou kontrolu open source kódu tohoto nástroje umělé inteligence.
Odborníci zjistili, že tento nástroj odhalil mnoho jejich kritických databází, včetně systémových protokolů, obsahu uživatelských příkazů a dokonce i tokenů pro ověřování API (bezpečnostních kódů používaných pro přístup k programovacím rozhraním DeepSeek)...
Bylo zjištěno, že nástroj DeepSeek ve svém zdrojovém kódu zveřejňuje velké množství citlivých informací (ilustrační obrázek: CNBC).
Celkem je k více než 1 milionu záznamů kritických dat DeepSeek přístupný externím osobám bez omezení. Je pozoruhodné, že tato data lze nalézt pomocí několika jednoduchých technik při zneužití zdrojového kódu, namísto nutnosti hlubokého vyhledávání a složitého zneužití.
„Toto byla vážná chyba ze strany DeepSeek, protože úroveň zabezpečení byla velmi nízká a my jsme měli velmi vysoký přístup bez jakýchkoli omezení oprávnění,“ řekla Ami Luttwaková, technologická ředitelka společnosti Wiz.
„To ukazuje, že DeepSeek není dostatečně bezpečný pro to, aby uživatelé mohli poskytovat jakékoli své citlivé a důležité údaje,“ dodal Luttwak.
Bezpečnostní experti se také obávají, že by útočníci mohli zneužít tyto uniklé databáze k získání hlubšího přístupu do systémů DeepSeek, ke spuštění škodlivého kódu za účelem krádeže uživatelských informací nebo k manipulaci s odpověďmi, které nástroj umělé inteligence poskytuje uživatelům.
„Je šokující vytvořit model umělé inteligence a nechat zadní vrátka dokořán otevřená z bezpečnostního hlediska,“ komentoval zprávu zveřejněnou Wizem nezávislý bezpečnostní výzkumník Jeremiah Fowler.
„To znamená, že kdokoli s připojením k internetu může k tomuto nástroji umělé inteligence přistupovat a manipulovat s ním, což představuje značné riziko pro organizace a uživatele,“ dodal Fowler.
Zatím není jasné, zda nějací škodliví aktéři zneužili uniklé citlivé údaje z DeepSeeku k provádění nekalé činnosti.
Bezpečnostní experti společnosti Wiz se pokusili kontaktovat DeepSeek, aby je varovali před svými zjištěními.
Společnost DeepSeek mlčela a nereagovala. Více než půl hodiny po odeslání zprávy e-mailem si však experti z Wiz všimli, že uniklá data ve zdrojovém kódu DeepSeeku již nebyla dostupná, což znamenalo, že DeepSeek zasáhl, aby problém vyřešil.
DeepSeek je startup založená v roce 2023 Luongem Van Phongem. Společnost má sídlo v čínském městě Chang-čou.
20. ledna společnost DeepSeek spustil pro uživatele svůj nástroj umělé inteligence s názvem R1. Tento nástroj se okamžitě stal globální senzací díky svým rychlým a působivým reakčním schopnostem.
Mnoho uživatelů také hodnotí DeepSeek R1 jako nástroj, který poskytuje chytřejší, přesnější a rychlejší odpovědi ve srovnání s jinými nástroji umělé inteligence, jako jsou ChatGPT, Gemini nebo Llama…
Na DeepSeeku je nejvíce udivující to, že vybudování a provoz tohoto modelu umělé inteligence stály pouhých 5,6 milionu dolarů, zatímco americké technologické společnosti utrácejí stovky milionů, ba dokonce miliardy dolarů, za vývoj a provoz vlastních modelů umělé inteligence.
Dalším důvodem, proč DeepSeek přitahuje pozornost technologického světa, je to, že tento nástroj umělé inteligence byl vytvořen a vyvinut v době, kdy americká vláda uvalila sankce a blokovala dodávky vysoce výkonných čipů umělé inteligence čínským společnostem.
To znamená, že DeepSeek je vyvinut a funguje na nízkovýkonných čipech umělé inteligence, ale přesto vykazuje působivý výkon.
Vznik DeepSeeku slibuje vytvoření nelítostného závodu ve vývoji umělé inteligence mezi dvěma supervelmocemi, Spojenými státy a Čínou.
Nicméně, vedle chvály se mnoho lidí obává, že DeepSeek je nástroj používaný pekingskou vládou ke shromažďování uživatelských informací prostřednictvím otázek nebo poskytování odpovědí, které prospívají čínské politice.
Zdroj: https://dantri.com.vn/suc-manh-so/ma-nguon-cua-phan-mem-ai-deepseek-he-lo-nhieu-dieu-bat-ngo-20250131004242202.htm
Komentář (0)