DeepSeekはレポートの中で、トレーニング費用の総額は557万6000ドルに上ると述べており、これは主にNVIDIAのGPU（グラフィックス・プロセッシング・ユニット）のレンタル費用によるものだとしています。同社はまた、この数字は「正式なトレーニング」のみを反映したものであり、アーキテクチャ、アルゴリズム、データに関する事前の調査や実験に関連する費用は含まれていないと警告しています。この発表は投資家の注目を集め、1月27日だけで世界のテクノロジー企業の株価は1兆ドル急落しました。
DeepSeek の運用コストは彼らが主張するよりもはるかに高いのでしょうか?
半導体調査・コンサルティング会社SemiAnalysisのレポートは、DeepSeekの開発コストについて新たな視点を示しています。同社は、DeepSeekのハードウェア支出が従来の発表よりも大幅に増加すると推定しており、同時に研究開発費と総所有コスト（TCO）の大幅な増加も指摘しています。
SemiAnalysisは、モデルのトレーニング用の「合成データ」の作成には「多大な計算量」が必要になると述べています。さらに、企業は新しいアーキテクチャのテストと開発、データの収集とクレンジング、従業員の給与の支払いも必要になります。
DeepSeek には 2,000 個強ではなく 50,000 個の GPU が必要ですか?
専門家の試算によると、DeepSeekは約5万台のHopper GPU、1万台のH800 GPU、さらに1万台のより高性能なH100 GPU、そして追加のH20 GPUで構成される大規模なコンピューティングシステムを運用しているという。これは、DeepSeekが以前、NVIDIA GPUをわずか2,048台しか使用していないと主張していたことと矛盾している。サーバーの総資本コストは約16億ドルと推定され、運用コストは9億4,400万ドルに上る。
SemiAnalysis は、DeepSeek が 50,000 個の Nvidia GPU を使用したと考えています。
DeepSeekは、中国のAI特化型ヘッジファンドHigh-Flyerの共同創業者である梁文鋒氏によって2023年に設立されました。同社は2023年4月に同ファンドのAI研究部門から発展し、大規模言語モデルの開発と汎用人工知能（AGI）の実現を目指しています。
DeepSeekへの関心は、同社がR1をリリースしたことで高まりました。R1はOpenAIのo1と競合する推論モデルですが、オープンソースとして提供されているため、あらゆるAI開発者が利用できます。しかし、他の多くの中国製チャットボットと同様に、DeepSeekにも特定のトピックに関する制限があります。
OpenAIのCEO、サム・アルトマン氏はDeepSeekのモデルを称賛し、「明らかに優れたモデルだ」と強調した。しかし同時に、DeepSeekがOpenAIのデータを「蒸留」手法を用いて収集していたことを示唆する証拠もあると述べた。
[広告2]
出典: https://thanhnien.vn/chi-phi-phat-trien-deepseek-bi-tang-boc-185250203151508438.htm
コメント (0)