Исходный код программы искусственного интеллекта DeepSeek преподносит множество сюрпризов

(Газета Dan Tri) — Исследователи в области безопасности обнаружили удивительные вещи в исходном коде DeepSeek, китайского программного обеспечения с искусственным интеллектом, которое в последние дни вызвало мировой резонанс.

Особенность DeepSeek заключается в том, что программное обеспечение разрабатывается как открытый исходный код, что позволяет сообществу участвовать в его разработке, а разработчикам — встраивать этот инструмент искусственного интеллекта в свои продукты.

На фоне мирового ажиотажа вокруг DeepSeek эксперты американской компании Wiz, специализирующейся на информационной безопасности, провели тщательный анализ открытого исходного кода этого инструмента искусственного интеллекта.

Эксперты обнаружили, что этот инструмент предоставил доступ ко многим их критически важным базам данных, включая системные журналы, содержимое пользовательских команд и даже токены аутентификации API (коды безопасности, используемые для доступа к программным интерфейсам DeepSeek)...

Было обнаружено, что инструмент DeepSeek допускает утечку большого количества конфиденциальной информации из своего исходного кода (иллюстративное изображение: CNBC).

В общей сложности более 1 миллиона записей критически важных данных DeepSeek доступны посторонним лицам без ограничений. Примечательно, что эти данные можно найти с помощью нескольких простых методов при эксплуатации исходного кода, а не путем глубокого поиска и сложной эксплуатации уязвимости.

«Это была серьезная ошибка со стороны DeepSeek, поскольку уровень безопасности был очень низким, а у нас был очень высокий уровень доступа без каких-либо ограничений по привилегиям», — заявил Ами Луттвак, технический директор Wiz.

«Это показывает, что DeepSeek недостаточно безопасен для предоставления пользователями каких-либо конфиденциальных и важных данных», — добавил Луттвак.

Эксперты по безопасности также обеспокоены тем, что злоумышленники могут использовать эти утекшие базы данных для получения более глубокого доступа к системам DeepSeek, выполнения вредоносного кода для кражи информации о пользователях или манипулирования ответами, предоставляемыми инструментом искусственного интеллекта пользователям.

«Шокирует создание модели ИИ и оставление лазейки настежь с точки зрения безопасности», — прокомментировал независимый исследователь в области безопасности Джереми Фаулер после прочтения отчета, опубликованного компанией Wiz.

«Это означает, что любой, у кого есть доступ к интернету, может получить доступ к этому инструменту искусственного интеллекта и затем манипулировать им, что представляет значительный риск для организаций и пользователей», — добавил Фаулер.

Остается неясным, использовали ли какие-либо злоумышленники утечку конфиденциальных данных из DeepSeek для осуществления противоправных действий.

Эксперты по безопасности компании Wiz попытались связаться с DeepSeek, чтобы предупредить их о своих находках.

Компания DeepSeek хранила молчание и не давала никаких комментариев. Однако, более чем через полчаса после отправки отчета по электронной почте, эксперты Wiz заметили, что утечка данных из исходного кода DeepSeek стала недоступна, что означало, что DeepSeek вмешалась для решения проблемы.

DeepSeek — это стартап-компания, основанная в 2023 году Луонг Ван Фонгом. Компания базируется в Ханчжоу, Китай.

20 января компания DeepSeek выпустила для пользователей свой инструмент искусственного интеллекта под названием R1. Этот инструмент мгновенно стал мировой сенсацией благодаря своей быстрой и впечатляющей скорости отклика.

Многие пользователи также отмечают, что DeepSeek R1 предоставляет более интеллектуальные, точные и быстрые ответы по сравнению с другими инструментами искусственного интеллекта, такими как ChatGPT, Gemini или Llama…

Самое поразительное в DeepSeek то, что создание и эксплуатация этой модели ИИ обошлись всего в 5,6 миллиона долларов, в то время как американские технологические компании тратят сотни миллионов, даже миллиарды долларов на разработку и эксплуатацию собственных моделей ИИ.

Еще одна причина, по которой DeepSeek привлек внимание технологического мира, заключается в том, что этот инструмент искусственного интеллекта был создан и разработан в то время, когда правительство США вводило санкции, блокируя поставки высокопроизводительных чипов для ИИ китайским компаниям.

Это означает, что DeepSeek разработан и работает на маломощных чипах для искусственного интеллекта, но при этом демонстрирует впечатляющую производительность.

Появление DeepSeek обещает разжечь ожесточенную гонку в разработке искусственного интеллекта между двумя сверхдержавами, Соединенными Штатами и Китаем.

Однако, наряду с похвалами, многие обеспокоены тем, что DeepSeek — это инструмент, используемый правительством Пекина для сбора информации о пользователях посредством вопросов или предоставления ответов, которые выгодны китайской политике.

Источник: https://dantri.com.vn/suc-manh-so/ma-nguon-cua-phan-mem-ai-deepseek-he-lo-nhieu-dieu-bat-ngo-20250131004242202.htm