Vytvořil Huawei čip s umělou inteligencí, který je tisíckrát rychlejší než Nvidia?

Vzhledem k tomu, že americká sankce potlačila žízeň po vysoce kvalitních polovodičových čipech, učinila společnost Huawei šokující krok ve světě technologií. Čínský gigant tvrdí, že její nový software dokáže vytvořit „simulovaný čip s umělou inteligencí“ s rychlostí zpracování 1000krát vyšší než u jeho nelítostného rivala Nvidia.

Společnost Huawei nedávno oficiálně představila Flex:ai, open-source nástroj pro orchestraci, který je navržen tak, aby důkladně optimalizoval kapacitu rozsáhlých výpočetních clusterů.

Spuštění orchestračního nástroje Flex:ai pro superpočítačové clustery.

Flex:ai, postavený na Kubernetes a vydaný komunitou ModelEngine, je více než jen nástroj pro správu.

Je to vnímáno jako naléhavé řešení současné čínské strategie „nahrazování hardwaru softwarem“.

Nejpozoruhodnějším tvrzením společnosti Huawei je, že dokáže „vytvořit simulovaný čip s umělou inteligencí, který je 1000krát rychlejší než čip od Nvidie“. Ačkoli společnost nezveřejnila technické podrobnosti, které by toto obrovské číslo stály za tímto obrovským číslem, Huawei tvrdí, že z hlediska praktické efektivity Flex:ai zvyšuje průměrné využití čipů s umělou inteligencí přibližně o 30 %.

Místo toho, aby akcelerátory (GPU/NPU) běžely odděleně a plýtvaly zdroji, používá Flex:ai inteligentní virtualizační mechanismus. Tento nástroj „rozděluje“ fyzické karty GPU nebo NPU do více virtuálních výpočetních instancí.

Mají emulované čipy rychlost, kterou Huawei uvádí?

Pro malé úkoly: Flex:ai je stohuje, aby maximalizoval prostor pro zdroje. Pro masivní modely umělé inteligence: Umožňuje rozložit pracovní zátěž na více karet a překonat tak fyzická omezení jednoho zařízení.

Srdcem systému je „Hi Scheduler“ – schopný v reálném čase přidělovat nečinné zdroje, čímž zajišťuje, že se během čekání úkolů umělé inteligence neplýtvá výpočetním výkonem.

Ambice sjednotit heterogenní čipové systémy

Velký rozdíl mezi Flex:ai a stávajícími řešeními spočívá v křížové kompatibilitě. Zatímco nástroje jako Run:ai (který Nvidia získala v roce 2024) se zaměřují na ekosystém Nvidie, Flex:ai si klade za cíl sjednotit různé typy hardwaru. Má silnou podporu pro domácí čipy Ascend od Huawei a další standardní GPU.

Nástroj byl vyvinut s přispěním výzkumníků ze Šanghajské univerzity Jiaotong, Univerzity Jiaotong v Si-anu a Univerzity Xiamen (Čína).

Společnost Huawei v současné době dosud nezveřejnila zdrojový kód ani konkrétní výsledky testů. Odborníci vznášejí velké otázky, zda je Flex:ai skutečně bezproblémově kompatibilní s populárními GPU prostřednictvím standardních pluginů? A je číslo „1 000krát rychlejší“ skutečným průlomem, nebo jen marketingovým srovnáním v prostředí emulátoru? Odpověď bude k dispozici, až bude Flex:ai oficiálně dostupný programátorské komunitě.