עלויות הפיתוח של DeepSeek "נופחו".

בדו"ח שלה, DeepSeek הצהירה כי עלות ההכשרה הכוללת הסתכמה ב-5.576 מיליון דולר, בעיקר בשל מחיר השכירות של יחידות עיבוד הגרפיקה של Nvidia. החברה הזהירה גם כי נתון זה משקף רק "הכשרה פורמלית" ואינו כולל עלויות הקשורות למחקר או ניסויים קודמים בארכיטקטורה, אלגוריתמים ונתונים. דבר זה משך מיד את תשומת ליבם של משקיעים וגרם למניות חברות טכנולוגיה גלובליות לצנוח בטריליון דולר ב-27 בינואר בלבד.

עלויות התפעול של DeepSeek גבוהות בהרבה ממה שהם טוענים?

כעת, דו"ח של חברת המחקר והייעוץ למחצה SemiAnalysis מציע פרספקטיבה שונה על עלויות הפיתוח של DeepSeek. החברה מעריכה כי הוצאות החומרה של DeepSeek גבוהות משמעותית מהצוין בעבר, תוך הדגשת עלויות מחקר ופיתוח (R&D) משמעותיות ועלות הבעלות הכוללת.

SemiAnalysis קובעת כי יצירת "נתונים סינתטיים" עבור מודלי אימון תדרוש "מאמץ חישובי משמעותי". יתר על כן, חברות יצטרכו גם לבדוק ולפתח ארכיטקטורות חדשות, לאסוף ולנקות נתונים ולשלם משכורות לעובדים.

האם DeepSeek זקוקה ל-50,000 כרטיסי מסך במקום קצת יותר מ-2,000?

על פי חישובים, מומחים אומרים ש-DeepSeek מפעילה מערכת מחשוב בקנה מידה גדול הכוללת כ-50,000 כרטיסי מסך של Hopper, עם 10,000 כרטיסי מסך של H800 ו-10,000 כרטיסי מסך של H100 חזקים יותר, יחד עם כרטיסי מסך של H20 נוספים. ממצא זה סותר את טענתה הקודמת של DeepSeek על שימוש ב-2,048 כרטיסי מסך של Nvidia בלבד. עלות ההון הכוללת עבור השרתים מוערכת בכ-1.6 מיליארד דולר, בעוד שעלות התפעול מסתכמת ב-944 מיליון דולר.

SemiAnalysis מאמינה ש-DeepSeek השתמשה ב-50,000 כרטיסי מסך של Nvidia.

DeepSeek נוסדה בשנת 2023 על ידי ליאנג וונפנג, מייסד שותף של High-Flyer, קרן גידור בסין המתמקדת בבינה מלאכותית. הסטארט-אפ התפתח מיחידת המחקר של הקרן בתחום הבינה המלאכותית באפריל 2023, במטרה לפתח מודלים של שפה בקנה מידה גדול ולהשיג בינה מלאכותית כללית (AGI).

העניין ב-DeepSeek גבר כאשר החברה הוציאה את R1, מודל חשיבה שמתחרה ב-o1 של OpenAI, אך מוצע כקוד פתוח, המאפשר לכל מפתח בינה מלאכותית להשתמש בו. עם זאת, כמו צ'אטבוטים סינים רבים אחרים, גם ל-DeepSeek יש מגבלות בנושאים מסוימים.

מנכ"ל OpenAI, סם אלטמן, שיבח את המודל של DeepSeek, והדגיש כי מדובר ב"מודל מצוין בבירור". עם זאת, הוא גם הצהיר כי ישנן ראיות המצביעות על כך ש-DeepSeek אספה את נתוני OpenAI כדי לפעול באמצעות שיטת "זיקוק".

מקור: https://thanhnien.vn/chi-phi-phat-trien-deepseek-bi-tang-boc-185250203151508438.htm