Вихідний код програмного забезпечення штучного інтелекту DeepSeek виявляє багато сюрпризів

(Ден Трі) - Дослідники безпеки виявили дивовижні речі у вихідному коді DeepSeek, програмного забезпечення штучного інтелекту, що походить з Китаю, яке останніми днями викликало ажіотаж у всьому світі.

Особливість DeepSeek полягає в тому, що програмне забезпечення розроблено з відкритим вихідним кодом, що дозволяє спільноті робити внесок, а розробникам вбудовувати цей інструмент штучного інтелекту у свої продукти.

У контексті того, що DeepSeek «викликає лихоманку» у всьому світі, експерти компанії з безпеки Wiz (США) ретельно переглянули відкритий вихідний код цього інструменту штучного інтелекту.

Експерти виявили, що цей інструмент розкриває багато важливих баз даних, включаючи системні журнали, вміст команд користувача та навіть токени автентифікації API (токени безпеки для автентифікації доступу до програмних інтерфейсів DeepSeek)…

Було виявлено, що інструмент DeepSeek витікає багато конфіденційної інформації у своєму вихідному коді (ілюстраційне фото: CNBC).

Загалом, сторонні користувачі можуть отримати доступ до понад 1 мільйона записів важливих даних DeepSeek без обмежень. Примітно, що ці дані можна знайти за допомогою кількох невеликих методів під час використання вихідного коду, замість того, щоб шукати глибоко та складно його використовувати.

«Це була серйозна помилка DeepSeek, оскільки рівень безпеки був дуже низьким, а ми мали дуже високий рівень доступу без будь-яких обмежень щодо дозволів», – сказала Амі Луттвак, технічний директор Wiz.

«Це показує, що DeepSeek недостатньо безпечний для того, щоб користувачі могли надавати будь-які свої конфіденційні та важливі дані», – додав Луттвак.

Експерти з безпеки також стурбовані тим, що зловмисники можуть використовувати ці витік баз даних для глибшого проникнення в систему DeepSeek, виконання шкідливого коду для крадіжки інформації користувачів або маніпулювання відповідями, що надаються цим інструментом штучного інтелекту користувачам.

«З точки зору безпеки, це шокує – створювати модель штучного інтелекту та залишати «чорні двері» відчиненими навстіж», – прокоментував Джеремія Фаулер, незалежний дослідник безпеки, після ознайомлення зі звітом, опублікованим Wiz.

«Це означає, що будь-хто з підключенням до Інтернету може отримати доступ до цього інструменту штучного інтелекту та маніпулювати ним, що становить величезний ризик для організацій та користувачів», – додав Фаулер.

Досі незрозуміло, чи скористалися якісь зловмисники витоком конфіденційних даних DeepSeek для реалізації темних схем.

Експерти з безпеки Wiz спробували зв'язатися з DeepSeek, щоб повідомити їх про свої висновки.

DeepSeek мовчав і не відповідав. Однак, через понад півгодини після того, як звіт було надіслано електронною поштою, експерти Wiz виявили, що витік даних у вихідному коді DeepSeek більше не був доступним, а це означало, що DeepSeek втрутився, щоб вирішити проблему.

DeepSeek – це стартап, заснований у 2023 році Луонг Ван Фонгом. Штаб-квартира компанії знаходиться в Ханчжоу, Китай.

20 січня DeepSeek випустила для користувачів інструмент штучного інтелекту під назвою R1. Цей інструмент одразу ж «викликав ажіотаж» у всьому світі завдяки своїй вражаючій здатності до швидкого реагування.

Багато користувачів також оцінюють DeepSeek R1 як такий, що надає розумніші, точніші та швидші відповіді, ніж інші інструменти штучного інтелекту, такі як ChatGPT, Gemini або Llama...

Найбільше вражає DeepSeek те, що створення та експлуатація цієї моделі штучного інтелекту коштує лише 5,6 мільйона доларів США, тоді як американські технологічні компанії витрачають сотні, навіть мільярди доларів на розробку та експлуатацію власних моделей штучного інтелекту.

Ще один момент, який привертає увагу світу технологій до DeepSeek, полягає в тому, що цей інструмент штучного інтелекту народився та розробився в той час, коли уряд США застосовував санкції, перешкоджаючи постачанню високопродуктивних чіпів штучного інтелекту китайським компаніям.

Це означає, що DeepSeek був розроблений і працює на низькопродуктивних чипах штучного інтелекту, але все одно демонструє вражаючу потужність.

Поява DeepSeek обіцяє створити запеклу гонку в розробці штучного інтелекту між двома наддержавами – США та Китаєм.

Однак, окрім високої оцінки, багато людей стурбовані тим, що DeepSeek є інструментом уряду Пекіна для збору інформації про користувачів за допомогою запитань або відповідей, сприятливих для китайської політики.

Джерело: https://dantri.com.vn/suc-manh-so/ma-nguon-cua-phan-mem-ai-deepseek-he-lo-nhieu-dieu-bat-ngo-20250131004242202.htm