Kinesisk selskap ønsker å redusere avhengigheten av Nvidia.

Oppstartsbedriften Qingcheng.AI og et utviklingsteam ledet av informatikkprofessor Di Guidong ved Tsinghua-universitetet (Kina) annonserte nylig utviklingen av Chitu AI-rammeverket, som sies å redusere avhengigheten av Nvidia-brikker for AI-modellinferens, ifølge South China Morning Post 16. mars.

Nvidias logo på en teknologimesse i Spania 5. mars.

Et AI-rammeverk er et verktøysett for inferensverktøy for store språkmodeller (LLM-er), som tilbyr biblioteker og verktøy som hjelper utviklere med å designe, trene og teste modeller effektivt. Chitu er et åpen kildekode-verktøy som støtter populære modeller som Metas Llama og DeepSeek-R1, en kinesisk «hjemmelaget» AI-modell som har skapt bølger over hele verden de siste månedene for sine oppfattede evner som kan sammenlignes med vestlige modeller, men til en mye lavere kostnad.

I testing, utstyrt med Nvidias A800 GPU, økte Chitu inferenshastigheten til den kraftigste versjonen av DeepSeek-R1 med 315 %, samtidig som den reduserte GPU-bruken med 50 % sammenlignet med åpen kildekode-rammeverk fra utlandet, ifølge selskapet. Dette betyr at modellen kan produsere resultater mye raskere, noe som sparer tid og beregningsressurser.

Utviklingen av Qingcheng.AI er en del av et forsøk fra kinesiske AI-selskaper på å redusere sin avhengighet av Nvidias neste generasjons høyytelses-GPU-er, som for tiden er underlagt eksportrestriksjoner. Den amerikanske regjeringen har forbudt Nvidia å selge sine Hopper H100- og H800-seriebrikker til kunder i Kina. På den annen side, ifølge AIBase.com, lar åpen kildekode Chitu utviklere og forskere i Kina fritt bruke, modifisere og optimalisere verktøyet, og dermed fremme utvikling og forbedring av innenlandske AI-teknologier.

Kina streber etter selvforsyning.

Mens Qingcheng.AI samarbeider med ledende innenlandske GPU-produsenter som Moore Threads, Enflame og Iluvatar CoreX, presser også andre teknologiselskaper i Kina på for å redusere sin avhengighet av utenlandsk teknologi, basert på suksessen til DeepSeek. I februar kunngjorde Infinigence AI, en leverandør av datainfrastrukturplattformer, at de jobbet med å fremme samarbeid mellom syv ledende kinesiske AI-brikkeprodusenter: Biren Technology, Hygon Information Technology, Moore Threads, MetaX, Enflame, Iluvatar CoreX og Huaweis Ascend.

Ifølge China Daily den 7. mars sa Liu Qingfeng, et medlem av den kinesiske nasjonale folkekongressen og styreleder i AI-selskapet iFlytek, at Kina snarest trenger å forske på og utvikle innenlandsproduserte LLM-modeller basert på brikker for å bygge et sterkt AI-økosystem, som sikrer bærekraftig og høy kvalitet på utviklingen. Han argumenterte for at det å ikke utvikle et innenlandsprodusert industrielt AI-økosystem er som å bygge et tårn på andres fundament. Han uttalte at bortsett fra iFlyteks Spark-modell, er alle for tiden offentlig nedlastbare LLM-er trent på Nvidia-brikker, noe som fremhever Kinas mangler innen brikkeutvikling.

For tiden kjemper mange store kinesiske teknologiselskaper som Alibaba, Tencent, Baidu, ByteDance, iFlytek og Huawei, sammen med tusenvis av andre oppstartsbedrifter, om å utvikle AI-modeller. Baidu annonserte nylig to modeller, Ernie 4.5 og X1, forrige helg for å konkurrere med modeller fra DeepSeek og OpenAI.

Kilde: https://thanhnien.vn/cong-ty-trung-quoc-tim-cach-giam-phu-thuoc-nvidia-185250317205207263.htm