Chinees bedrijf wil de afhankelijkheid van Nvidia verminderen.

De startup Qingcheng.AI en een ontwikkelingsteam onder leiding van computerwetenschapper Di Guidong van de Tsinghua Universiteit (China) hebben onlangs de ontwikkeling aangekondigd van het Chitu AI-framework. Dit framework zou de afhankelijkheid van Nvidia-chips voor AI-modelinferentie verminderen, aldus de South China Morning Post op 16 maart.

Het logo van Nvidia op een technologiebeurs in Spanje op 5 maart.

Een AI-framework is een toolkit voor inferentietools voor grote taalmodellen (LLM's), die bibliotheken en tools biedt om ontwikkelaars te helpen bij het efficiënt ontwerpen, trainen en testen van modellen. Chitu is een open-source tool die populaire modellen ondersteunt, zoals Meta's Llama en DeepSeek-R1, een Chinees "eigen" AI-model dat de afgelopen maanden wereldwijd veel aandacht heeft getrokken vanwege de vermeende mogelijkheden die vergelijkbaar zijn met westerse modellen, maar tegen veel lagere kosten.

Uit tests is gebleken dat Chitu, in combinatie met een Nvidia A800 GPU, de inferentiesnelheid van de krachtigste versie van DeepSeek-R1 met 315% heeft verhoogd en het GPU-gebruik met 50% heeft verlaagd in vergelijking met open-source frameworks uit het buitenland. Dit betekent dat het model veel sneller resultaten kan leveren, waardoor tijd en rekenkracht worden bespaard.

De ontwikkeling van Qingcheng.AI maakt deel uit van een poging van Chinese AI-bedrijven om hun afhankelijkheid van Nvidia's volgende generatie krachtige GPU's te verminderen, die momenteel onderworpen zijn aan exportbeperkingen. De Amerikaanse overheid heeft Nvidia verboden om zijn Hopper H100- en H800-serie chips aan klanten in China te verkopen. Volgens AIBase.com maakt het open-source karakter van Chitu het daarentegen mogelijk voor ontwikkelaars en onderzoekers in China om de tool vrij te gebruiken, aan te passen en te optimaliseren, waardoor de ontwikkeling en verbetering van binnenlandse AI-technologieën wordt bevorderd.

China streeft naar zelfredzaamheid.

Terwijl Qingcheng.AI samenwerkt met toonaangevende Chinese GPU-fabrikanten zoals Moore Threads, Enflame en Iluvatar CoreX, streven ook andere technologiebedrijven in China ernaar hun afhankelijkheid van buitenlandse technologie te verminderen, voortbouwend op het succes van DeepSeek. In februari kondigde Infinigence AI, een aanbieder van computerinfrastructuurplatformen, aan dat het de samenwerking tussen zeven toonaangevende Chinese AI-chipfabrikanten wilde bevorderen: Biren Technology, Hygon Information Technology, Moore Threads, MetaX, Enflame, Iluvatar CoreX en Huawei's Ascend.

Volgens China Daily van 7 maart zei Liu Qingfeng, lid van het Chinese Nationale Volkscongres en voorzitter van AI-bedrijf iFlytek, dat China dringend onderzoek moet doen naar en binnenlandse LLM-modellen moet ontwikkelen op basis van chips om een ​​sterk AI-ecosysteem op te bouwen en zo duurzame en hoogwaardige ontwikkeling te garanderen. Hij betoogde dat het nalaten om een ​​binnenlands AI-industrieel ecosysteem te ontwikkelen, hetzelfde is als een toren bouwen op de fundering van een ander. Hij stelde dat, afgezien van iFlyteks Spark-model, alle momenteel publiekelijk beschikbare LLM's getraind zijn op Nvidia-chips, wat de tekortkomingen van China op het gebied van chipontwikkeling benadrukt.

Momenteel wedijveren veel grote Chinese technologiebedrijven zoals Alibaba, Tencent, Baidu, ByteDance, iFlytek en Huawei, samen met duizenden andere startups, om AI-modellen te ontwikkelen. Onlangs kondigde Baidu nog twee modellen aan, Ernie 4.5 en X1, die de concurrentie aangaan met modellen van DeepSeek en OpenAI.

Bron: https://thanhnien.vn/cong-ty-trung-quoc-tim-cach-giam-phu-thuoc-nvidia-185250317205207263.htm