Heeft Huawei een AI-chip ontwikkeld die 1000 keer sneller is dan Nvidia?

Nu de honger naar hoogwaardige halfgeleiderchips wordt gesmoord door Amerikaanse sancties, heeft Huawei zojuist een schokkende stap gezet in de technologiewereld. De Chinese gigant beweert dat zijn nieuwe software een 'gesimuleerde AI-chip' kan creëren met verwerkingssnelheden die 1000 keer sneller zijn dan die van zijn aartsrivaal Nvidia.

Huawei introduceerde onlangs officieel Flex:ai, een open-source-orkestratietool die is ontworpen om de capaciteit van grootschalige computerclusters grondig te optimaliseren.

Lancering van Flex:ai-orchestratietool voor supercomputingclusters.

Flex:ai is gebouwd op Kubernetes en uitgebracht via de ModelEngine-community. Het is meer dan alleen een beheertool.

Het wordt gezien als een dringende oplossing voor de huidige Chinese strategie waarbij 'software wordt gebruikt ter compensatie van hardware'.

De meest opvallende bewering van Huawei is dat het "een gesimuleerde AI-chip kan maken die 1000 keer sneller is dan die van Nvidia." Hoewel het bedrijf nog geen technische details heeft vrijgegeven over dit enorme aantal, beweert Huawei dat Flex:ai het gemiddelde gebruik van AI-chips in termen van praktische efficiëntie met ongeveer 30% verhoogt.

In plaats van accelerators (GPU/NPU) afzonderlijk te laten draaien en resources te verspillen, maakt Flex:ai gebruik van een slim virtualisatiemechanisme. Deze tool 'slicet' fysieke GPU- of NPU-kaarten in meerdere virtuele rekeninstanties.

Hebben de geëmuleerde chips de snelheid die Huawei claimt?

Voor kleine taken: Flex:ai stapelt ze om de beschikbare resources te maximaliseren. Voor enorme AI-modellen: het maakt het mogelijk om de werklast over meerdere kaarten te verdelen, waardoor de fysieke beperkingen van één apparaat worden overwonnen.

Het hart van het systeem is de 'Hi Scheduler'. Deze kan inactieve bronnen in realtime verzenden, zodat er geen rekenkracht wordt verspild terwijl AI-taken in de wachtrij staan.

Ambitie om heterogene chipsystemen te verenigen

Het grote verschil tussen Flex:ai en bestaande oplossingen is kruiscompatibiliteit. Terwijl tools zoals Run:ai (in 2024 overgenomen door Nvidia) zich richten op het Nvidia-ecosysteem, streeft Flex:ai ernaar verschillende soorten hardware te verenigen. Het biedt krachtige ondersteuning voor Huawei's eigen Ascend-chips, naast andere standaard GPU's.

De tool is ontwikkeld met bijdragen van onderzoekers van de Shanghai Jiaotong Universiteit, de Xi'an Jiaotong Universiteit en de Xiamen Universiteit (China).

Huawei heeft de broncode en specifieke testresultaten nog niet vrijgegeven. Experts stellen zich grote vragen over de vraag of Flex:ai echt soepel compatibel is met populaire GPU's via standaard plug-ins. En is het getal '1000 keer sneller' een echte doorbraak of slechts een marketingvergelijking in een emulatoromgeving? Het antwoord komt zodra Flex:ai officieel beschikbaar is voor de programmeercommunity.