Исходный код программы искусственного интеллекта DeepSeek преподносит множество сюрпризов

(Дэн Три) - Исследователи безопасности обнаружили удивительные вещи в исходном коде DeepSeek, программного обеспечения на основе искусственного интеллекта, созданного в Китае и вызвавшего в последние дни переполох во всем мире.

Особенностью DeepSeek является то, что программное обеспечение разрабатывается с открытым исходным кодом, что позволяет сообществу вносить свой вклад, а разработчикам встраивать этот инструмент ИИ в свои продукты.

В связи с тем, что DeepSeek «вызывает ажиотаж» во всем мире, эксперты компании Wiz (США) в сфере безопасности внимательно изучили открытый исходный код этого инструмента искусственного интеллекта.

Эксперты обнаружили, что инструмент раскрыл многие из своих важных баз данных, включая системные журналы, содержимое пользовательских команд и даже токены аутентификации API (токены безопасности, используемые для аутентификации доступа к программным интерфейсам DeepSeek)…

Было обнаружено, что инструмент DeepSeek раскрывает большой объем конфиденциальной информации из своего исходного кода (иллюстрация: CNBC).

В общей сложности более 1 миллиона записей важных данных DeepSeek доступны посторонним лицам без каких-либо ограничений. Примечательно, что эти данные можно найти, используя несколько простых методов при эксплуатации исходного кода, вместо того, чтобы искать их в глубинах и использовать сложный метод.

«Это была серьезная ошибка DeepSeek, поскольку уровень безопасности был очень низким, а у нас был очень высокий доступ без каких-либо ограничений по разрешениям», — сказал Ами Люттвак, технический директор Wiz.

«Это показывает, что DeepSeek недостаточно безопасен, чтобы пользователи могли предоставлять какие-либо свои конфиденциальные и важные данные», — добавил Люттвак.

Эксперты по безопасности также опасаются, что злоумышленники могут воспользоваться утечкой баз данных для более глубокого проникновения в систему DeepSeek, выполнить вредоносный код с целью кражи пользовательской информации или манипулирования ответами, предоставляемыми пользователям этим инструментом искусственного интеллекта.

«С точки зрения безопасности шокирует тот факт, что мы создаем модель ИИ и оставляем лазейку открытой», — прокомментировал Джеремайя Фаулер, независимый исследователь в области безопасности, прочитав отчет, опубликованный Wiz.

«Это означает, что любой человек, имеющий подключение к Интернету, может получить доступ к этому инструменту ИИ, а затем манипулировать им, что представляет огромный риск для организаций и пользователей», — добавил Фаулер.

Пока неясно, воспользовались ли злоумышленники утечкой конфиденциальных данных DeepSeek для реализации своих темных махинаций.

Эксперты по безопасности Wiz попытались связаться с DeepSeek, чтобы сообщить им о своих выводах.

DeepSeek хранила молчание и не отреагировала. Однако спустя более чем полчаса после отправки сообщения по электронной почте эксперты Wiz обнаружили, что утекшие данные в исходном коде DeepSeek больше не доступны, что означает, что DeepSeek вмешался, чтобы решить проблему.

DeepSeek — стартап, основанный в 2023 году Лыонгом Ван Фонгом. Штаб-квартира компании находится в Ханчжоу, Китай.

20 января компания DeepSeek представила пользователям инструмент искусственного интеллекта R1. Этот инструмент сразу же «вызвал ажиотаж» во всем мире благодаря своей быстрой и впечатляющей способности к реагированию.

Многие пользователи также оценивают DeepSeek R1 как более умный, точный и быстрый инструмент, чем другие инструменты ИИ, такие как ChatGPT, Gemini или Llama...

Что делает DeepSeek самым удивительным, так это то, что создание и эксплуатация этой модели ИИ обошлось всего в 5,6 млн долларов, в то время как американские технологические компании тратят сотни, а то и миллиарды долларов на разработку и эксплуатацию собственных моделей ИИ.

Еще одним моментом, который привлекает внимание технологического мира к DeepSeek, является то, что этот инструмент ИИ появился и развивался в то время, когда правительство США применяло санкции, препятствующие поставкам высокопроизводительных ИИ-чипов китайским компаниям.

Это означает, что DeepSeek был разработан и работает на низкопроизводительных ИИ-чипах, но все равно демонстрирует впечатляющую мощность.

Появление DeepSeek обещает вызвать ожесточенную гонку в области разработки ИИ между двумя сверхдержавами — США и Китаем.

Однако, помимо высокой оценки, многие обеспокоены тем, что DeepSeek является инструментом пекинского правительства для сбора информации о пользователях с помощью вопросов или ответов, выгодных для политики Китая.

Источник: https://dantri.com.vn/suc-manh-so/ma-nguon-cua-phan-mem-ai-deepseek-he-lo-nhieu-dieu-bat-ngo-20250131004242202.htm