Kinesiskt företag försöker minska beroendet av Nvidia.

Startupföretaget Qingcheng.AI och ett utvecklingsteam lett av datavetenskapsprofessorn Di Guidong vid Tsinghuauniversitetet (Kina) tillkännagav nyligen utvecklingen av Chitu AI-ramverket, vilket sägs minska beroendet av Nvidia-chip för AI-modellinferens, enligt South China Morning Post den 16 mars.

Nvidias logotyp på en teknikmässa i Spanien den 5 mars.

Ett AI-ramverk är en verktygslåda för inferensverktyg för stora språkmodeller (LLM), som tillhandahåller bibliotek och verktyg som hjälper utvecklare att designa, träna och testa modeller effektivt. Chitu är ett verktyg med öppen källkod som stöder populära modeller som Metas Llama och DeepSeek-R1, en kinesisk "hemodlad" AI-modell som har gjort vågor världen över de senaste månaderna för sina upplevda funktioner som är jämförbara med västerländska modeller men till en mycket lägre kostnad.

I tester, utrustad med Nvidias A800 GPU, ökade Chitu inferenshastigheten för den kraftfullaste versionen av DeepSeek-R1 med 315 % samtidigt som GPU-användningen minskades med 50 % jämfört med ramverk med öppen källkod från utlandet, enligt företaget. Detta innebär att modellen kan producera resultat mycket snabbare, vilket sparar tid och beräkningsresurser.

Utvecklingen av Qingcheng.AI är en del av en ansträngning från kinesiska AI-företag att minska sitt beroende av Nvidias nästa generations högpresterande GPU:er, som för närvarande är föremål för exportrestriktioner. Den amerikanska regeringen har förbjudit Nvidia att sälja sina Hopper H100- och H800-seriechip till kunder i Kina. Å andra sidan, enligt AIBase.com, tillåter öppen källkod för Chitu utvecklare och forskare i Kina att fritt använda, modifiera och optimera verktyget, vilket främjar utvecklingen och förbättringen av inhemska AI-tekniker.

Kina strävar efter självförsörjning.

Medan Qingcheng.AI samarbetar med ledande inhemska GPU-tillverkare som Moore Threads, Enflame och Iluvatar CoreX, strävar även andra teknikföretag i Kina efter att minska sitt beroende av utländsk teknik, baserat på DeepSeeks framgångar. I februari meddelade Infinigence AI, en leverantör av datorinfrastrukturplattformar, att de arbetade för att främja samarbete mellan sju ledande kinesiska AI-chiptillverkare: Biren Technology, Hygon Information Technology, Moore Threads, MetaX, Enflame, Iluvatar CoreX och Huaweis Ascend.

Enligt China Daily den 7 mars sa Liu Qingfeng, medlem av den kinesiska nationella folkkongressen och ordförande för AI-företaget iFlytek, att Kina snarast behöver forska om och utveckla inhemskt producerade LLM-modeller baserade på chip för att bygga ett starkt AI-ekosystem, vilket säkerställer hållbar och högkvalitativ utveckling. Han menade att att misslyckas med att utveckla ett inhemskt producerat industriellt AI-ekosystem är som att bygga ett torn på någon annans grund. Han uppgav att, förutom iFlyteks Spark-modell, är alla för närvarande offentligt nedladdningsbara LLM:er tränade på Nvidia-chip, vilket belyser Kinas brister inom chiputveckling.

För närvarande tävlar många stora kinesiska teknikföretag som Alibaba, Tencent, Baidu, ByteDance, iFlytek och Huawei, tillsammans med tusentals andra startups, om att utveckla AI-modeller. Senast tillkännagav Baidu två modeller, Ernie 4.5 och X1, förra helgen för att konkurrera med modeller från DeepSeek och OpenAI.

Källa: https://thanhnien.vn/cong-ty-trung-quoc-tim-cach-giam-phu-thuoc-nvidia-185250317205207263.htm