DeepSeek의 개발 비용이 '과대평가'되었다는 주장이 제기되었습니다.

딥시크는 보고서에서 총 학습 비용이 557만 6천 달러에 달하며, 이는 주로 엔비디아 그래픽 처리 장치(GPU) 임대료 때문이라고 밝혔습니다. 또한 이 수치는 "공식 학습" 비용만을 반영하며, 아키텍처, 알고리즘, 데이터 관련 사전 연구 또는 실험 비용은 포함되지 않는다고 경고했습니다. 이 발표는 투자자들의 즉각적인 관심을 불러일으켰고, 1월 27일 하루 동안 전 세계 기술 기업들의 주가가 1조 달러 폭락하는 사태를 초래했습니다.

DeepSeek의 운영 비용이 그들이 주장하는 것보다 훨씬 높은 것일까요?

반도체 연구 및 컨설팅 회사인 세미애널리시스(SemiAnalysis)의 보고서는 딥시크(DeepSeek)의 개발 비용에 대한 새로운 관점을 제시합니다. 이 회사는 딥시크의 하드웨어 투자액이 기존에 알려진 것보다 훨씬 높을 것으로 추정하는 한편, 상당한 연구 개발(R&D) 비용과 총 소유 비용 또한 지적했습니다.

SemiAnalysis는 모델 학습을 위한 "합성 데이터"를 생성하는 데 "상당한 계산 노력"이 필요하다고 밝혔습니다. 뿐만 아니라 기업들은 새로운 아키텍처를 테스트하고 개발하고, 데이터를 수집 및 정제하고, 직원 급여를 지급해야 할 것입니다.

DeepSeek에는 2,000개 남짓한 GPU가 아니라 50,000개의 GPU가 필요한 걸까요?

전문가들의 계산에 따르면, 딥시크는 약 5만 개의 호퍼(Hopper) GPU, 1만 개의 H800 GPU, 그리고 1만 개의 더욱 강력한 H100 GPU와 추가적인 H20 GPU로 구성된 대규모 컴퓨팅 시스템을 운영하고 있는 것으로 추정됩니다. 이는 딥시크가 이전에 엔비디아(Nvidia) GPU를 2,048개만 사용한다고 주장했던 것과 상반되는 내용입니다. 서버 구축에 소요된 총 비용은 약 16억 달러, 운영 비용은 9억 4,400만 달러로 추산됩니다.

SemiAnalysis는 DeepSeek이 5만 개의 Nvidia GPU를 사용했다고 추정합니다.

딥시크는 중국의 AI 전문 헤지펀드인 하이플라이어의 공동 창업자 량원펑이 2023년에 설립했습니다. 이 스타트업은 2023년 4월 하이플라이어의 AI 연구 부서에서 발전하여 대규모 언어 모델 개발과 범용 인공지능(AGI) 구현을 목표로 설립되었습니다.

딥시크에 대한 관심은 회사가 오픈아이얼의 o1과 경쟁하는 추론 모델인 R1을 출시하면서 높아졌습니다. R1은 오픈소스로 제공되어 모든 AI 개발자가 사용할 수 있습니다. 하지만 다른 많은 중국 챗봇처럼 딥시크도 특정 주제에 대해서는 제한이 있습니다.

오픈아이디어(OpenAI) CEO 샘 알트만은 딥시크의 모델을 칭찬하며 "분명히 훌륭한 모델"이라고 강조했습니다. 그러나 그는 딥시크가 오픈아이디어의 데이터를 수집하여 "증류" 방식을 사용했다는 증거가 있다고도 언급했습니다.

출처: https://thanhnien.vn/chi-phi-phat-trien-deepseek-bi-tang-boc-185250203151508438.htm