Kos pembangunan DeepSeek telah 'dinaikkan'.

Dalam laporannya, DeepSeek menyatakan bahawa jumlah kos latihan berjumlah $5.576 juta, terutamanya disebabkan oleh harga sewa unit pemprosesan grafik Nvidia. Syarikat itu juga memberi amaran bahawa angka ini hanya mencerminkan "latihan formal" dan tidak termasuk kos yang berkaitan dengan penyelidikan atau eksperimen terdahulu mengenai seni bina, algoritma dan data. Ini segera menarik perhatian pelabur dan menyebabkan saham syarikat teknologi global menjunam sebanyak $1 trilion pada 27 Januari sahaja.

Kos operasi DeepSeek jauh lebih tinggi daripada yang mereka dakwa?

Kini, satu laporan daripada firma penyelidikan dan perundingan semikonduktor SemiAnalysis menawarkan perspektif berbeza mengenai kos pembangunan DeepSeek. Syarikat itu menganggarkan perbelanjaan perkakasan DeepSeek jauh lebih tinggi daripada yang dinyatakan sebelum ini, di samping mengetengahkan kos penyelidikan dan pembangunan (R&D) yang besar dan jumlah kos pemilikan.

SemiAnalysis menyatakan bahawa penciptaan "data sintetik" untuk model latihan memerlukan "usaha pengiraan yang ketara." Tambahan pula, syarikat juga perlu menguji dan membangunkan seni bina baharu, mengumpul dan membersihkan data serta membayar gaji pekerja.

Adakah DeepSeek memerlukan 50,000 GPU dan bukannya lebih 2,000?

Menurut pengiraan, pakar mengatakan DeepSeek mengendalikan sistem pengkomputeran berskala besar yang terdiri daripada kira-kira 50,000 GPU Hopper, dengan 10,000 GPU H800 dan 10,000 GPU H100 yang lebih berkuasa, bersama-sama dengan GPU H20 tambahan. Ini bercanggah dengan dakwaan DeepSeek sebelum ini yang hanya menggunakan 2,048 GPU Nvidia. Jumlah kos modal untuk pelayan dianggarkan sekitar $1.6 bilion, manakala kos operasi berjumlah $944 juta.

SemiAnalysis percaya bahawa DeepSeek telah menggunakan 50,000 GPU Nvidia.

DeepSeek ditubuhkan pada tahun 2023 oleh Liang Wenfeng, pengasas bersama High-Flyer, sebuah dana lindung nilai yang berfokus pada AI di China. Syarikat permulaan ini berkembang daripada unit penyelidikan AI dana tersebut pada April 2023, bertujuan untuk membangunkan model bahasa berskala besar dan mencapai kecerdasan buatan (AGI) umum.

Minat terhadap DeepSeek meningkat apabila syarikat itu mengeluarkan R1, model penaakulan yang bersaing dengan o1 OpenAI, tetapi ditawarkan sebagai sumber terbuka, membolehkan mana-mana pembangun AI menggunakannya. Walau bagaimanapun, seperti kebanyakan chatbot Cina yang lain, DeepSeek juga mempunyai batasan pada topik tertentu.

Ketua Pegawai Eksekutif OpenAI, Sam Altman, memuji model DeepSeek, menekankan bahawa ia "jelas merupakan model yang hebat." Walau bagaimanapun, beliau juga menyatakan bahawa terdapat bukti yang menunjukkan DeepSeek mengumpul data OpenAI untuk beroperasi menggunakan kaedah "penyulingan".

Sumber: https://thanhnien.vn/chi-phi-phat-trien-deepseek-bi-tang-boc-185250203151508438.htm