Costurile de dezvoltare ale DeepSeek au fost „umflate”.

În raportul său, DeepSeek a declarat că costul total al instruirii s-a ridicat la 5,576 milioane de dolari, în principal din cauza prețului de închiriere al unităților de procesare grafică Nvidia. Compania a avertizat, de asemenea, că această cifră reflectă doar „instruirea formală” și nu include costurile legate de cercetări sau experimente anterioare privind arhitectura, algoritmii și datele. Acest lucru a atras imediat atenția investitorilor și a determinat o scădere drastică a acțiunilor companiilor globale de tehnologie cu 1 trilion de dolari numai pe 27 ianuarie.

Costurile de operare ale DeepSeek sunt mult mai mari decât susțin ei?

Acum, un raport al firmei de cercetare și consultanță în domeniul semiconductorilor SemiAnalysis oferă o perspectivă diferită asupra costurilor de dezvoltare ale DeepSeek. Compania estimează că cheltuielile DeepSeek cu hardware-ul sunt semnificativ mai mari decât cele declarate anterior, subliniind totodată costurile substanțiale de cercetare și dezvoltare (C&D) și costul total de proprietate.

SemiAnalysis afirmă că crearea de „date sintetice” pentru modelele de antrenament va necesita „un efort computațional semnificativ”. În plus, companiile vor trebui să testeze și să dezvolte noi arhitecturi, să colecteze și să curețe datele și să plătească salariile angajaților.

Are nevoie DeepSeek de 50.000 de GPU-uri în loc de puțin peste 2.000?

Conform calculelor, experții spun că DeepSeek operează un sistem de calcul la scară largă, format din aproximativ 50.000 de GPU-uri Hopper, 10.000 de GPU-uri H800 și 10.000 de GPU-uri H100 mai puternice, alături de GPU-uri H20 suplimentare. Acest lucru contrazice afirmația anterioară a DeepSeek, care afirma că folosește doar 2.048 de GPU-uri Nvidia. Costul total de capital pentru servere este estimat la aproximativ 1,6 miliarde de dolari, în timp ce costurile de operare se ridică la 944 de milioane de dolari.

SemiAnalysis consideră că DeepSeek a folosit 50.000 de GPU-uri Nvidia.

DeepSeek a fost fondată în 2023 de Liang Wenfeng, cofondator al High-Flyer, un fond speculativ din China axat pe inteligență artificială. Startup-ul a evoluat din unitatea de cercetare în domeniul inteligenței artificiale a fondului în aprilie 2023, având ca scop dezvoltarea de modele lingvistice la scară largă și realizarea de inteligență artificială generală (AGI).

Interesul pentru DeepSeek a crescut odată cu lansarea R1 de către companie, un model de raționament care concurează cu o1 al OpenAI, dar este oferit ca open source, permițând oricărui dezvoltator de inteligență artificială să îl utilizeze. Cu toate acestea, la fel ca mulți alți chatbot-i chinezi, DeepSeek are și limitări în anumite domenii.

CEO-ul OpenAI, Sam Altman, a lăudat modelul DeepSeek, subliniind că este „în mod clar un model excelent”. Cu toate acestea, el a afirmat, de asemenea, că există dovezi care sugerează că DeepSeek a colectat datele OpenAI pentru a opera folosind o metodă de „distilare”.

Sursă: https://thanhnien.vn/chi-phi-phat-trien-deepseek-bi-tang-boc-185250203151508438.htm