Biaya pengembangan DeepSeek telah 'digembungkan'.

Dalam laporannya, DeepSeek menyatakan bahwa total biaya pelatihan mencapai $5,576 juta, terutama karena harga sewa unit pemrosesan grafis Nvidia. Perusahaan tersebut juga memperingatkan bahwa angka ini hanya mencerminkan "pelatihan formal" dan tidak termasuk biaya yang terkait dengan penelitian atau eksperimen sebelumnya tentang arsitektur, algoritma, dan data. Hal ini segera menarik perhatian investor dan menyebabkan saham perusahaan teknologi global anjlok sebesar $1 triliun hanya pada tanggal 27 Januari.

Apakah biaya operasional DeepSeek jauh lebih tinggi daripada yang mereka klaim?

Kini, sebuah laporan dari perusahaan riset dan konsultasi semikonduktor SemiAnalysis menawarkan perspektif berbeda tentang biaya pengembangan DeepSeek. Perusahaan tersebut memperkirakan pengeluaran perangkat keras DeepSeek jauh lebih tinggi daripada yang dinyatakan sebelumnya, sekaligus menyoroti biaya riset dan pengembangan (R&D) yang substansial dan total biaya kepemilikan.

SemiAnalysis menyatakan bahwa pembuatan "data sintetis" untuk melatih model akan membutuhkan "upaya komputasi yang signifikan." Selain itu, perusahaan juga perlu menguji dan mengembangkan arsitektur baru, mengumpulkan dan membersihkan data, serta membayar gaji karyawan.

Apakah DeepSeek membutuhkan 50.000 GPU, bukan hanya lebih dari 2.000?

Menurut perhitungan, para ahli mengatakan DeepSeek mengoperasikan sistem komputasi skala besar yang terdiri dari sekitar 50.000 GPU Hopper, dengan 10.000 GPU H800 dan 10.000 GPU H100 yang lebih bertenaga, serta GPU H20 tambahan. Hal ini bertentangan dengan klaim DeepSeek sebelumnya yang hanya menggunakan 2.048 GPU Nvidia. Total biaya modal untuk server diperkirakan sekitar $1,6 miliar, sedangkan biaya operasional mencapai $944 juta.

SemiAnalysis meyakini bahwa DeepSeek telah menggunakan 50.000 GPU Nvidia.

DeepSeek didirikan pada tahun 2023 oleh Liang Wenfeng, salah satu pendiri High-Flyer, sebuah hedge fund yang berfokus pada AI di Tiongkok. Startup ini berkembang dari unit riset AI milik hedge fund tersebut pada April 2023, dengan tujuan mengembangkan model bahasa berskala besar dan mencapai kecerdasan buatan umum (AGI).

Minat terhadap DeepSeek meningkat ketika perusahaan tersebut merilis R1, sebuah model penalaran yang bersaing dengan o1 milik OpenAI, tetapi ditawarkan sebagai sumber terbuka, memungkinkan pengembang AI mana pun untuk menggunakannya. Namun, seperti banyak chatbot Tiongkok lainnya, DeepSeek juga memiliki keterbatasan pada topik-topik tertentu.

CEO OpenAI, Sam Altman, memuji model DeepSeek, menekankan bahwa itu "jelas merupakan model yang hebat." Namun, ia juga menyatakan bahwa ada bukti yang menunjukkan DeepSeek mengumpulkan data OpenAI untuk beroperasi menggunakan metode "distilasi".

Sumber: https://thanhnien.vn/chi-phi-phat-trien-deepseek-bi-tang-boc-185250203151508438.htm