ជំហានឆ្ពោះទៅមុខដ៏ធំរបស់ក្រុមហ៊ុន Huawei

បន្ទះឈីប Ascend AI របស់ក្រុមហ៊ុន Huawei បានវ៉ាដាច់ Nvidia GPU នៅក្នុងការធ្វើតេស្តម៉ូដែល DeepSeek R1 ដែលបង្ហាញថាក្រុមហ៊ុនបច្ចេកវិទ្យាយក្សរបស់ចិនកំពុងស្វែងរកការបំបែកផ្តាច់មុខរបស់សហរដ្ឋអាមេរិក។

យោងតាម ​​SCMP របាយការណ៍បច្ចេកទេសថ្មីមួយបង្ហាញថាប្រព័ន្ធដំណើរការ Ascend AI របស់ក្រុមហ៊ុន Huawei បានលើសពីដំណើរការរបស់ Nvidia GPUs នៅក្នុងការធ្វើតេស្តគំរូឆ្លាតវៃសិប្បនិម្មិត DeepSeek R1 ។ លទ្ធផលនេះគឺជាជំហានឆ្ពោះទៅមុខដ៏សំខាន់មួយសម្រាប់ក្រុមហ៊ុនចិនក្នុងបរិបទនៃការប្រឈមមុខនឹងការបញ្ជាទិញគ្រប់គ្រងបច្ចេកវិទ្យាពីសហរដ្ឋអាមេរិក។

ក្រដាសដែលសហការនិពន្ធដោយក្រុមអ្នកស្រាវជ្រាវមកពីក្រុមហ៊ុន Huawei និងការចាប់ផ្តើមហេដ្ឋារចនាសម្ព័ន្ធ AI SiliconFlow រៀបរាប់លម្អិតអំពីស្ថាបត្យកម្មនៃមជ្ឈមណ្ឌលទិន្នន័យ CloudMatrix 384 ។ វាគឺជា "ប្រព័ន្ធទំនើប AI នៅលើបន្ទះឈីប" ដែលត្រូវបានរចនាឡើងជាពិសេសដើម្បីគ្រប់គ្រងបន្ទុកការងារយ៉ាងច្រើនពីគំរូភាសាធំ (LLMs)។

CloudMatrix 384 មានប្រព័ន្ធដំណើរការ 384 Ascend 910C និង 192 ស៊ីភីយូ Kunpeng ដែលភ្ជាប់ជាមួយគ្នាដោយប្រព័ន្ធឡានក្រុងបង្រួបបង្រួមជាមួយនឹងភាពយឺតយ៉ាវទាប និងកម្រិតបញ្ជូនខ្ពស់។ ស្ថាបត្យកម្មនេះត្រូវបានរំពឹងទុកដោយក្រុមហ៊ុន Huawei ដើម្បីរៀបចំឡើងវិញនូវមូលដ្ឋានគ្រឹះនៃហេដ្ឋារចនាសម្ព័ន្ធ AI ។

ប្រព័ន្ធ CloudMatrix-Infer ដែលត្រូវបានបង្កើតឡើងនៅលើវេទិកានេះបង្ហាញពីដំណើរការដ៏អស្ចារ្យនៅពេលដាក់ពង្រាយម៉ូដែល DeepSeek R1 ។ នៅក្នុងដំណាក់កាលនៃការបំពេញមុន ប្រព័ន្ធសម្រេចបាននូវចំនួន 6,688 ថូខឹន/វិនាទីក្នុងមួយ NPU នៅពេលដំណើរការសំណើ 4,000-token ពីអ្នកប្រើប្រាស់។ ការសម្តែងនេះគឺស្មើនឹង 4.45 ថូខឹន/វិនាទីក្នុងមួយ TFLOPS (ប្រតិបត្តិការពាន់លានក្នុងមួយវិនាទី)។

ក្នុងដំណាក់កាលនៃការឌិកូដ CloudMatrix បានកត់ត្រាលទ្ធផលនៃ 1,943 tokens/second per NPU ជាមួយនឹងពេលវេលាឆ្លើយតបតិចជាង 50 milliseconds ក្នុងមួយ token។ ដំណើរការនៃ 1.29 tokens/second ក្នុងមួយ TFLOPS គឺខ្ពស់ជាងប្រព័ន្ធ SGLang របស់ Nvidia ដោយប្រើ H100 GPUs និងវេទិកា GPU H800 ដែលដំណើរការ DeepSeek R1 ផងដែរ។

យោងតាមលោក Zuo Pengfei ដែលជាអ្នកដឹកនាំការស្រាវជ្រាវ និងជាសមាជិកនៃកម្មវិធី "Genius Youth" របស់ក្រុមហ៊ុន Huawei គោលបំណងនៃរបាយការណ៍នេះគឺដើម្បីជួយឱ្យឧស្សាហកម្មនេះយល់ច្បាស់អំពីសមត្ថភាពរបស់ Ascend NPU ដែលអភិវឌ្ឍដោយប្រទេសចិន។ នៅលើវេទិកា Zhihu លោកបានបញ្ជាក់ថា របាយការណ៍នេះគឺជាការបង្ហាញយ៉ាងច្បាស់អំពីសមត្ថភាពបច្ចេកវិទ្យារបស់ Huawei CloudMatrix ។

នេះជាលើកទីមួយហើយដែលក្រុមហ៊ុន Huawei បញ្ចេញព័ត៌មានលម្អិតអំពីបច្ចេកវិទ្យា Ascend 910C AI accelerator។ របាយការណ៍នេះក៏បានបញ្ជាក់ឡើងវិញនូវការកត់សម្គាល់ថ្មីៗរបស់ស្ថាបនិកក្រុមហ៊ុន Huawei លោក Ren Zhengfei ថាបន្ទះឈីប Ascend នៅតែជា "ជំនាន់ក្រោយ" សមភាគីអាមេរិករបស់ពួកគេ។ ទោះជាយ៉ាងណាក៏ដោយ លោកបានអះអាងថា ការអនុវត្តវិធីសាស្រ្តដូចជា "ការដាក់ជង់ និងចង្កោម" បានជួយឱ្យក្រុមហ៊ុន Huawei សម្រេចបាននូវដំណើរការកុំព្យូទ័រដែលប្រៀបធៀបទៅនឹងប្រព័ន្ធ AI ទំនើបបំផុតនាពេលបច្ចុប្បន្ននេះ។

ទន្ទឹមនឹងនេះដែរ នាយកប្រតិបត្តិ Nvidia លោក Jensen Huang ក៏បានសារភាពនៅក្នុងបទសម្ភាសន៍ជាមួយ ស្ថានីយទូរទស្សន៍ CNBC ថា AI គឺជាបញ្ហាដំណើរការស្របគ្នា ហើយពួកគេនឹងត្រូវការ processors បន្ថែមទៀត ប្រសិនបើពួកគេមិនមានថាមពលកុំព្យូទ័រគ្រប់គ្រាន់។

ប្រភព៖ https://znews.vn/buoc-tien-lon-cua-huawei-post1562828.html