DeepSeek'in geliştirme maliyetleri 'şişirilmiş' durumda.

DeepSeek raporunda, toplam eğitim maliyetinin 5,576 milyon dolara ulaştığını ve bunun esas olarak Nvidia'nın grafik işlem birimlerinin kiralama fiyatından kaynaklandığını belirtti. Şirket ayrıca bu rakamın yalnızca "resmi eğitimi" yansıttığını ve mimari, algoritmalar ve verilerle ilgili önceki araştırma veya deneylerle ilgili maliyetleri içermediğini de vurguladı. Bu durum yatırımcıların dikkatini hemen çekti ve 27 Ocak'ta küresel teknoloji şirketlerinin hisse senetlerinin 1 trilyon dolar değer kaybetmesine neden oldu.

DeepSeek'in işletme maliyetleri iddia ettiklerinden çok daha mı yüksek?

Yarı iletken araştırma ve danışmanlık firması SemiAnalysis'in yayınladığı bir rapor, DeepSeek'in geliştirme maliyetlerine farklı bir bakış açısı sunuyor. Şirket, DeepSeek'in donanım harcamalarının daha önce belirtilenden önemli ölçüde daha yüksek olduğunu tahmin ederken, aynı zamanda önemli araştırma ve geliştirme (Ar-Ge) maliyetlerini ve toplam sahip olma maliyetini de vurguluyor.

SemiAnalysis, modelleri eğitmek için "sentetik veri" oluşturmanın "önemli miktarda hesaplama çabası" gerektireceğini belirtiyor. Ayrıca, şirketlerin yeni mimarileri test edip geliştirmeleri, veri toplamaları ve temizlemeleri ve çalışan maaşlarını ödemeleri gerekecek.

DeepSeek'in 2.000'den biraz fazla GPU yerine 50.000 GPU'ya ihtiyacı var mı?

Uzmanların hesaplamalarına göre DeepSeek, yaklaşık 50.000 Hopper GPU'dan oluşan büyük ölçekli bir bilgi işlem sistemi işletiyor; bu sistemde 10.000 adet H800 GPU, 10.000 adet daha güçlü H100 GPU ve ek olarak H20 GPU'lar bulunuyor. Bu durum, DeepSeek'in daha önce yalnızca 2.048 Nvidia GPU kullandığı iddiasıyla çelişiyor. Sunucuların toplam sermaye maliyetinin yaklaşık 1,6 milyar dolar, işletme maliyetlerinin ise 944 milyon dolar olduğu tahmin ediliyor.

SemiAnalysis, DeepSeek'in 50.000 adet Nvidia GPU kullandığına inanıyor.

DeepSeek, 2023 yılında Çin'de yapay zekaya odaklı bir hedge fonu olan High-Flyer'ın kurucu ortağı Liang Wenfeng tarafından kuruldu. Girişim, Nisan 2023'te fonun yapay zeka araştırma biriminden evrimleşerek büyük ölçekli dil modelleri geliştirmeyi ve genel yapay zeka (AGI) elde etmeyi hedefledi.

DeepSeek'e olan ilgi, şirketin OpenAI'nin o1'iyle rekabet eden ancak açık kaynak olarak sunulan ve herhangi bir yapay zeka geliştiricisinin kullanmasına olanak tanıyan R1 adlı bir mantık yürütme modelini piyasaya sürmesiyle arttı. Bununla birlikte, diğer birçok Çin yapımı sohbet botu gibi DeepSeek'in de belirli konularda sınırlamaları bulunmaktadır.

OpenAI CEO'su Sam Altman, DeepSeek'in modelini övdü ve bunun "açıkça harika bir model" olduğunu vurguladı. Bununla birlikte, DeepSeek'in OpenAI'nin verilerini "damıtma" yöntemi kullanarak topladığına dair kanıtlar olduğunu da belirtti.

Kaynak: https://thanhnien.vn/chi-phi-phat-trien-deepseek-bi-tang-boc-185250203151508438.htm