Le grand pas en avant de Huawei

Selon le SCMP , un nouveau rapport technique montre que le processeur Ascend AI de Huawei a surpassé les performances des GPU Nvidia lors du test du modèle d'intelligence artificielle DeepSeek R1. Ce résultat marque une avancée importante pour l'entreprise chinoise face aux ordres de contrôle technologique des États-Unis.

L'article, co-écrit par des chercheurs de Huawei et de la start-up spécialisée dans les infrastructures d'IA SiliconFlow, détaille l'architecture du centre de données CloudMatrix 384. Il s'agit d'un « supersystème d'IA sur puce » spécialement conçu pour gérer des charges de travail massives issues de grands modèles linguistiques (LLM).

CloudMatrix 384 est composé de 384 processeurs Ascend 910C et de 192 CPU Kunpeng, reliés entre eux par un système de bus unifié à faible latence et à large bande passante. Huawei espère que cette architecture révolutionnera les infrastructures d'IA.

Le système CloudMatrix-Infer, basé sur cette plateforme, affiche des performances exceptionnelles lors du déploiement du modèle DeepSeek R1. En phase de pré-remplissage, le système a atteint un débit de 6 688 jetons/seconde par NPU lors du traitement d'une requête utilisateur de 4 000 jetons. Cette performance équivaut à 4,45 jetons/seconde par TFLOPS (billion d'opérations par seconde).

Lors de la phase de décodage, CloudMatrix a enregistré un débit de 1 943 jetons/seconde par NPU, avec un temps de réponse inférieur à 50 millisecondes par jeton. Cette performance de 1,29 jeton/seconde par TFLOPS est supérieure à celle du système SGLang de Nvidia utilisant des GPU H100 et à celle de la plateforme GPU H800 exécutant DeepSeek R1.

Selon Zuo Pengfei, auteur principal de l'étude et membre du programme « Genius Youth » de Huawei, l'objectif du rapport est d'aider l'industrie à comprendre pleinement les capacités de l'Ascend NPU développé en Chine. Sur la plateforme Zhihu, il a affirmé que le rapport démontrait clairement les capacités technologiques de Huawei CloudMatrix.

C'est la première fois que Huawei divulgue des détails techniques sur l'accélérateur d'IA Ascend 910C. Le rapport réitère également les récentes déclarations de Ren Zhengfei, fondateur de Huawei, selon lesquelles les puces Ascend accusent encore un retard d'une génération sur leurs homologues américaines. Il affirme toutefois que l'application de méthodes telles que l'empilement et le clustering a permis à Huawei d'atteindre des performances de calcul comparables à celles des systèmes d'IA les plus avancés d'aujourd'hui.

Pendant ce temps, le PDG de Nvidia, Jensen Huang, a également admis dans une interview avec CNBC que l'IA est un problème de traitement parallèle et qu'ils auront besoin de plus de processeurs s'ils n'ont pas assez de puissance de calcul.

Source : https://znews.vn/buoc-tien-lon-cua-huawei-post1562828.html