Huawei, Nvidia'dan 1.000 Kat Daha Hızlı Bir Yapay Zeka Çipi Mi Üretti?

ABD yaptırımları nedeniyle yüksek kaliteli yarı iletken çiplere olan talep azalırken, Huawei teknoloji dünyasında şok edici bir hamle yaptı. Çinli dev, yeni yazılımının, ezeli rakibi Nvidia'dan 1.000 kat daha hızlı işlem hızlarına sahip "simüle edilmiş bir yapay zeka çipi" oluşturabileceğini iddia ediyor.

Huawei, büyük ölçekli bilgi işlem kümelerinin kapasitesini kapsamlı bir şekilde optimize etmek üzere tasarlanmış açık kaynaklı bir orkestrasyon aracı olan Flex:ai'yi yakın zamanda resmen tanıttı.

Süper bilgisayar kümeleri için Flex:ai orkestrasyon aracının lansmanı.

Kubernetes üzerine inşa edilen ve ModelEngine topluluğu aracılığıyla yayınlanan Flex:ai, basit bir yönetim aracından çok daha fazlasıdır.

Çin'in 'donanımı yazılımla telafi etme' stratejisine acil bir çözüm olarak görülüyor.

Huawei'nin en dikkat çeken iddiası, "Nvidia'nınkinden 1.000 kat daha hızlı simüle edilmiş bir yapay zeka çipi yaratabileceği" iddiası. Bu devasa sayının ardındaki teknik detayları açıklamasa da Huawei, Flex:ai'nin pratik verimlilik açısından yapay zeka çiplerinin ortalama kullanımını yaklaşık %30 oranında artırdığını iddia ediyor.

Hızlandırıcıların (GPU/NPU) ayrı ayrı çalışmasına ve kaynak israfına izin vermek yerine, Flex:ai akıllı bir sanallaştırma mekanizması kullanır. Bu araç, fiziksel GPU veya NPU kartlarını birden çok sanal işlem örneğine "dilimler".

Emülasyonu yapılan çipler Huawei'nin iddia ettiği hıza sahip mi?

Küçük görevler için: Flex:ai, kaynak kullanımını en üst düzeye çıkarmak için bunları üst üste yerleştirir. Büyük yapay zeka modelleri için: İş yüklerinin birden fazla karta dağıtılmasına olanak tanıyarak tek bir cihazın fiziksel sınırlamalarını aşar.

Sistemin kalbi, gerçek zamanlı olarak boşta kalan kaynakları dağıtabilen ve yapay zeka görevleri sırada beklerken hiçbir bilgi işlem gücünün boşa harcanmamasını sağlayan 'Hi Scheduler'dır.

Heterojen çip sistemlerini birleştirme hırsı

Flex:ai ile mevcut çözümler arasındaki en büyük fark, çapraz uyumluluktur. Run:ai (2024'te Nvidia tarafından satın alındı) gibi araçlar Nvidia ekosistemine odaklanırken, Flex:ai farklı donanım türlerini birleştirmeyi hedefliyor. Huawei'nin kendi geliştirdiği Ascend yongalarının yanı sıra diğer standart GPU'lar için de güçlü bir desteğe sahip.

Araç, Şanghay Jiaotong Üniversitesi, Xi'an Jiaotong Üniversitesi ve Xiamen Üniversitesi'ndeki (Çin) araştırmacıların katkılarıyla geliştirildi.

Huawei henüz kaynak kodunu ve spesifik test sonuçlarını yayınlamadı. Uzmanlar, Flex:ai'nin standart eklentiler aracılığıyla popüler GPU'larla gerçekten uyumlu olup olmadığı konusunda büyük sorular soruyor. "1.000 kat daha hızlı" rakamı gerçek bir atılım mı, yoksa emülatör ortamında sadece bir pazarlama karşılaştırması mı? Cevap, Flex:ai resmi olarak programlama topluluğunun kullanımına sunulduğunda ortaya çıkacak.