Исходный код программного обеспечения ИИ DeepSeek раскрывает множество сюрпризов

(Дэн Три) - Исследователи безопасности обнаружили удивительные вещи в исходном коде DeepSeek, программного обеспечения на основе искусственного интеллекта, разработанного в Китае и вызвавшего в последние дни переполох во всем мире.

Особенностью DeepSeek является то, что программное обеспечение разработано с открытым исходным кодом, что позволяет сообществу вносить свой вклад, а разработчикам — встраивать этот инструмент искусственного интеллекта в свои продукты.

В связи с тем, что DeepSeek «вызывает лихорадку» во всем мире, эксперты компании Wiz (США) по безопасности тщательно изучили открытый исходный код этого инструмента искусственного интеллекта.

Эксперты обнаружили, что этот инструмент раскрывает многие из своих важных баз данных, включая системные журналы, содержимое пользовательских команд и даже токены аутентификации API (токены безопасности для аутентификации доступа к программным интерфейсам DeepSeek)…

Было обнаружено, что инструмент DeepSeek допускает утечку большого количества конфиденциальной информации внутри своего исходного кода (иллюстрация на фото: CNBC).

В общей сложности более 1 миллиона записей важных данных DeepSeek могут быть доступны посторонним лицам без ограничений. Примечательно, что эти данные можно найти с помощью нескольких небольших методов при эксплуатации исходного кода, вместо того, чтобы искать глубоко и эксплуатировать их сложным способом.

«Это была серьезная ошибка DeepSeek, поскольку уровень безопасности был очень низким, а у нас был очень высокий доступ без каких-либо ограничений по разрешениям», — сказал Ами Люттвак, технический директор Wiz.

«Это показывает, что DeepSeek недостаточно безопасен для того, чтобы пользователи могли предоставлять какие-либо свои конфиденциальные и важные данные», — добавил Люттвак.

Эксперты по безопасности также обеспокоены тем, что злоумышленники могут воспользоваться утечкой баз данных, чтобы глубже проникнуть в систему DeepSeek, выполнить вредоносный код для кражи пользовательской информации или манипулировать ответами, которые этот инструмент искусственного интеллекта предоставляет пользователям.

«С точки зрения безопасности это шокирует — создавать модель ИИ и оставлять черный ход широко открытым», — прокомментировал Джеремайя Фаулер, независимый исследователь в области безопасности, прочитав отчет, опубликованный Wiz.

«Это означает, что любой человек, имеющий подключение к Интернету, может получить доступ к этому инструменту ИИ, а затем манипулировать им, что представляет огромный риск для организаций и пользователей», — добавил Фаулер.

Пока неясно, воспользовались ли какие-либо злоумышленники утечкой конфиденциальных данных DeepSeek для реализации своих темных схем.

Эксперты по безопасности Wiz попытались связаться с DeepSeek, чтобы сообщить им о своих выводах.

DeepSeek молчал и не ответил. Однако спустя более чем полчаса после отправки отчета по электронной почте эксперты Wiz обнаружили, что просочившиеся данные в исходном коде DeepSeek больше не доступны, что означает, что DeepSeek вмешался, чтобы решить проблему.

DeepSeek — стартап, основанный в 2023 году Луонгом Ван Фонгом. Штаб-квартира компании находится в Ханчжоу, Китай.

20 января DeepSeek выпустила для пользователей инструмент ИИ под названием R1. Этот инструмент сразу же «вызвал лихорадку» во всем мире благодаря своей впечатляющей и быстрой способности реагирования.

Многие пользователи также оценивают DeepSeek R1 как предоставляющий более умные, точные и быстрые ответы, чем другие инструменты ИИ, такие как ChatGPT, Gemini или Llama...

Самым удивительным в DeepSeek является то, что создание и эксплуатация этой модели ИИ обошлись всего в 5,6 млн долларов США, в то время как американские технологические компании тратят сотни, а то и миллиарды долларов на разработку и эксплуатацию собственных моделей ИИ.

Еще один момент, который привлекает внимание технологического мира к DeepSeek, заключается в том, что этот инструмент искусственного интеллекта появился и развивался в то время, когда правительство США применяло санкции, препятствующие поставкам высокопроизводительных чипов искусственного интеллекта китайским компаниям.

Это означает, что DeepSeek был разработан и работает на низкопроизводительных ИИ-чипах, но все равно демонстрирует впечатляющую мощность.

Появление DeepSeek обещает вызвать ожесточенную гонку в области разработки искусственного интеллекта между двумя сверхдержавами — США и Китаем.

Однако, помимо высокой оценки, многие обеспокоены тем, что DeepSeek является инструментом правительства Пекина для сбора информации о пользователях посредством вопросов или ответов, благоприятных для политики Китая.

Источник: https://dantri.com.vn/suc-manh-so/ma-nguon-cua-phan-mem-ai-deepseek-he-lo-nhieu-dieu-bat-ngo-20250131004242202.htm