Zdrojový kód softwaru umělé inteligence DeepSeek odhaluje mnoho překvapení

(Dan Tri) - Bezpečnostní výzkumníci objevili překvapivé věci ve zdrojovém kódu DeepSeek, softwaru umělé inteligence pocházejícího z Číny, který v posledních dnech vyvolal celosvětový rozruch.

Zvláštností DeepSeeku je, že software je vyvíjen jako open source, což umožňuje komunitě přispívat a vývojářům integrovat tento nástroj umělé inteligence do svých produktů.

V souvislosti s tím, že DeepSeek celosvětově „způsobuje horečku“, experti z bezpečnostní společnosti Wiz (USA) pečlivě prozkoumali otevřený zdrojový kód tohoto nástroje s umělou inteligencí.

Odborníci zjistili, že nástroj odhalil mnoho důležitých databází, včetně systémových protokolů, obsahu uživatelských příkazů a dokonce i tokenů pro ověřování API (bezpečnostní tokeny používané k ověřování přístupu k programovacím rozhraním DeepSeek)…

Bylo zjištěno, že nástroj DeepSeek uniká ve svém zdrojovém kódu velké množství citlivých informací (ilustrační foto: CNBC).

Celkem je k více než 1 milionu záznamů důležitých dat DeepSeeku přístupný externím uživatelům bez jakýchkoli omezení. Je pozoruhodné, že tato data lze nalézt pomocí několika drobných technik při zneužití zdrojového kódu, namísto nutnosti hlubokého hledání a složitého zneužití.

„Toto byla vážná chyba ze strany DeepSeek, protože úroveň zabezpečení byla velmi nízká a my jsme měli velmi vysoký přístup bez jakýchkoli omezení oprávnění,“ řekla Ami Luttwaková, technická ředitelka Wiz.

„To ukazuje, že DeepSeek není dostatečně bezpečný pro to, aby uživatelé mohli poskytovat jakékoli své citlivé a důležité údaje,“ dodal Luttwak.

Bezpečnostní experti se také obávají, že by útočníci mohli zneužít tyto uniklé databáze k hlubšímu proniknutí do systému DeepSeek, spuštění škodlivého kódu k krádeži uživatelských informací nebo manipulaci s odpověďmi, které tento nástroj umělé inteligence poskytuje uživatelům.

„Z bezpečnostního hlediska je šokující vybudovat model umělé inteligence a nechat zadní vrátka dokořán otevřená,“ poznamenal Jeremiah Fowler, nezávislý bezpečnostní výzkumník, po přečtení zprávy zveřejněné Wizem.

„To znamená, že kdokoli s připojením k internetu může k tomuto nástroji umělé inteligence přistupovat a manipulovat s ním, což představuje obrovské riziko pro organizace i uživatele,“ dodal Fowler.

Stále není jasné, zda nějací zločinci zneužili únik citlivých dat z DeepSeeku k provádění temných plánů.

Bezpečnostní experti společnosti Wiz se pokusili kontaktovat společnost DeepSeek a upozornit je na svá zjištění.

Společnost DeepSeek mlčela a nereagovala. Více než půl hodiny po odeslání zprávy e-mailem však experti z Wiz zjistili, že uniklá data ve zdrojovém kódu DeepSeeku již nejsou dostupná, což znamenalo, že DeepSeek zasáhl, aby problém vyřešil.

DeepSeek je startup založený v roce 2023 Luongem Van Phongem. Společnost má sídlo v čínském městě Chang-čou.

Společnost DeepSeek 20. ledna zpřístupnila uživatelům nástroj umělé inteligence s názvem R1. Tento nástroj okamžitě po celém světě „způsobil horečku“ díky své rychlé a působivé schopnosti odezvy.

Mnoho uživatelů také hodnotí DeepSeek R1 jako nástroj poskytující chytřejší, přesnější a rychlejší odpovědi než jiné nástroje umělé inteligence, jako je ChatGPT, Gemini nebo Llama...

Nejvíce překvapivé na DeepSeeku je, že vybudování a provoz tohoto modelu umělé inteligence stál pouhých 5,6 milionu dolarů, zatímco americké technologické společnosti utrácejí stovky, ba dokonce miliardy dolarů za vývoj a provoz vlastních modelů umělé inteligence.

Dalším bodem, který přitahuje pozornost technologického světa, je to, že tento nástroj umělé inteligence se zrodil a vyvinul v době, kdy americká vláda uplatňovala sankce a bránila dodávkám vysoce výkonných čipů umělé inteligence čínským společnostem.

To znamená, že DeepSeek byl vyvinut a běží na nízkovýkonných čipech umělé inteligence, ale stále vykazuje působivý výkon.

Vznik DeepSeeku slibuje vytvoření nelítostného závodu ve vývoji umělé inteligence mezi dvěma supervelmocemi, USA a Čínou.

Nicméně, kromě vysokého uznání, mnoho lidí se obává, že DeepSeek je nástrojem pekingské vlády ke shromažďování uživatelských informací prostřednictvím otázek nebo poskytování odpovědí, které jsou příznivé pro čínskou politiku.

Zdroj: https://dantri.com.vn/suc-manh-so/ma-nguon-cua-phan-mem-ai-deepseek-he-lo-nhieu-dieu-bat-ngo-20250131004242202.htm