Чи створила Huawei чіп штучного інтелекту, який у 1000 разів швидший за Nvidia?

Оскільки попит на високоякісні напівпровідникові чіпи придушується санкціями США, Huawei щойно зробила шокуючий крок у світі технологій. Китайський гігант стверджує, що його нове програмне забезпечення може створити «імітований чіп штучного інтелекту» зі швидкістю обробки в 1000 разів швидшою, ніж у його запеклого конкурента Nvidia.

Нещодавно Huawei офіційно представила Flex:ai, інструмент оркестрації з відкритим кодом, розроблений для ретельної оптимізації потужності великомасштабних обчислювальних кластерів.

Запуск інструменту оркестрації Flex:ai для кластерів суперкомп'ютерів.

Побудований на базі Kubernetes та випущений спільнотою ModelEngine, Flex:ai — це більше, ніж просто інструмент управління.

Це розглядається як термінове рішення поточної стратегії Китаю «використання програмного забезпечення для компенсації апаратного забезпечення».

Найпомітніша заява Huawei полягає в тому, що вона може «створити імітований чіп штучного інтелекту, який у 1000 разів швидший за чіп Nvidia». Хоча компанія не розкрила технічних деталей, що стоять за цим величезним числом, з точки зору практичної ефективності, Huawei стверджує, що Flex:ai збільшує середнє використання чіпів штучного інтелекту приблизно на 30%.

Замість того, щоб дозволяти прискорювачам (GPU/NPU) працювати окремо та витрачати ресурси, Flex:ai використовує інтелектуальний механізм віртуалізації. Цей інструмент «розбиває» фізичні карти GPU або NPU на кілька віртуальних обчислювальних екземплярів.

Чи мають емульовані чіпи таку швидкість, яку заявляє Huawei?

Для невеликих завдань: Flex:ai об'єднує їх, щоб максимізувати запас ресурсів. Для масивних моделей штучного інтелекту: це дозволяє розподіляти робочі навантаження між кількома картами, долаючи фізичні обмеження одного пристрою.

Серцем системи є «Hi Scheduler» — здатний розподіляти незадіяні ресурси в режимі реального часу, гарантуючи, що обчислювальна потужність не буде витрачена, поки завдання штучного інтелекту чекають у черзі.

Амбіції щодо об'єднання гетерогенних чіп-систем

Велика різниця між Flex:ai та існуючими рішеннями полягає у взаємній сумісності. У той час як такі інструменти, як Run:ai (придбаний Nvidia у 2024 році), зосереджені на екосистемі Nvidia, Flex:ai прагне об'єднати різні типи обладнання. Він має сильну підтримку власних чіпів Huawei Ascend поряд з іншими стандартними графічними процесорами.

Інструмент був розроблений за участю дослідників Шанхайського університету Цзяотун, Сіаньського університету Цзяотун та Сяменьського університету (Китай).

Наразі Huawei ще не оприлюднила вихідний код та конкретні результати тестування. Експерти ставлять під сумнів, чи дійсно Flex:ai сумісний з популярними графічними процесорами безперебійно через стандартні плагіни? І чи є число «в 1000 разів швидше» справжнім проривом, чи просто маркетинговим порівнянням у середовищі емулятора? Відповідь буде доступна, коли Flex:ai офіційно стане доступним для спільноти програмістів.