Yapay zeka ağlarına bağlanmak - bilmeniz gereken 5 şey

GPU'lar yapay zekâ bilgisayarlarının beynidir.

Basitçe ifade etmek gerekirse, grafik işlem birimi (GPU), yapay zekâ bilgisayarının beyni gibi davranır.

Bildiğiniz gibi, merkezi işlem birimi (CPU) bilgisayarın beynidir. GPU'nun avantajı, karmaşık hesaplamalar yapmak için özel olarak tasarlanmış bir CPU olmasıdır. Bu hesaplamaları gerçekleştirmenin en hızlı yolu, GPU gruplarının bir problemi birlikte çözmesidir. Buna rağmen, bir yapay zeka modelinin eğitilmesi haftalar hatta aylar sürebilir. Oluşturulduktan sonra, ön uç bilgisayar sistemine yerleştirilir ve kullanıcılar yapay zeka modeline sorular sorabilir; bu sürece çıkarım denir.

Bir yapay zeka bilgisayarı birden fazla GPU içerir.

Yapay zekâ problemlerini çözmek için en iyi mimari, bir rafa yerleştirilmiş ve rafın üstündeki bir anahtara bağlı bir grup GPU kullanmaktır. Birden fazla GPU rafı, hiyerarşik bir ağ bağlantı sisteminde ayrıca bağlanabilir. Çözülmesi gereken problemler daha karmaşık hale geldikçe, GPU gereksinimleri de artar ve bazı projelerde binlerce GPU'dan oluşan kümelerin konuşlandırılması gerekebilir.

Her yapay zeka kümesi küçük bir ağdır.

Bir yapay zeka kümesi oluştururken, GPU'ların birlikte çalışmasını ve verileri verimli bir şekilde paylaşmasını sağlamak için küçük bir bilgisayar ağı kurmak gereklidir.

Bir yapay zeka kümesi

Yukarıdaki diyagram, alttaki dairelerin GPU'larda çalışan iş akışlarını temsil ettiği bir yapay zeka kümesini göstermektedir. GPU'lar, üst raftaki (ToR) anahtarlara bağlanır. Bu ToR anahtarları ayrıca, diyagramda yukarıda gösterilen ağ omurga anahtarlarına da bağlanarak, birden fazla GPU'nun söz konusu olduğu durumlarda gerekli olan net ağ hiyerarşisini göstermektedir.

Bunlar da ilginizi çekebilir

Huong Tram, Cua Lo balık pazarını bir sahneye dönüştürerek, Song Lam Nghe An futbol takımının ruhunu "Nghe An Girl" adlı müzik videosuna taşıdı.GĐXH - Uzun yıllar boyunca duygusal baladlarla özdeşleşen Huong Tram, tamamen yeni bir görünümle müzik sahnesine resmi olarak geri dönüyor. Kadın şarkıcı, 1 Temmuz'da müzisyen Ho Hoai Anh'ın bestelediği ve söz yazarı Ha Quang Minh'in kaleme aldığı "Gai Nghe" şarkısının müzik videosunu yayınladı.

UNICEF, dünya genelindeki çocukların yapay zekâdan kaynaklanan risklerle karşı karşıya olduğu konusunda uyarıda bulundu.UNICEF'e göre, yapay zekâ teknolojisi eksik yönetim ve koruma mekanizmalarına rağmen yaygın olarak uygulanırken, bir nesil çocuk küresel bir deneyin içinde büyüyor.

Tropikal alçak basınç sistemi, şiddetli dalgalanmalarla birlikte batı-kuzeybatı yönünde ilerliyor.VTV.vn - Tropikal alçak basınç merkezine yakın bölgedeki en güçlü rüzgar hızı 7. seviye (50-61 km/sa) olup, zaman zaman 9. seviyeye kadar çıkmaktadır; batı-kuzeybatı yönünde yaklaşık 25 km/sa hızla hareket etmektedir.

Yapay zekâ uygulamalarının yaygınlaştırılmasında ağlar bir darboğaz oluşturuyor.
Geçtiğimiz sonbaharda, delegelerin yeni nesil yapay zeka altyapısını geliştirdiği Açık Bilgisayar Projesi (OCP) küresel zirvesinde, Marvell Technology'den delege Loi Nguyen önemli bir soruna dikkat çekti: "Ağlar yeni darboğaz."

Teknik olarak, ağ tıkanıklığı nedeniyle yüksek paket gecikmesi veya paket kaybı, paketlerin yeniden gönderilmesine neden olarak iş tamamlama süresini (JCT) önemli ölçüde artırabilir. Sonuç olarak, işletmelere ait milyonlarca veya on milyonlarca dolarlık GPU, verimsiz yapay zeka sistemleri nedeniyle boşa harcanmakta ve bu durum işletmelere hem gelir hem de pazara sunma süresi açısından zarar vermektedir.

Yapay zekâ ağlarının başarılı bir şekilde çalışması için test ve ölçümleme hayati öneme sahip koşullardır.

Bir yapay zeka kümesini verimli bir şekilde çalıştırmak için, GPU'ların eğitim süresini kısaltmak ve yatırım getirisini en üst düzeye çıkarmak için öğrenme modellerini uygulamak üzere tam kapasitelerini kullanabilmeleri gerekir. Bu nedenle, yapay zeka kümesinin performansının test edilmesi ve değerlendirilmesi gereklidir (Şekil 2). Ancak bu görev kolay değildir, çünkü sistem mimarisi, sorunu çözmek için birbirini tamamlaması gereken GPU ve ağ yapısı arasındaki birçok ayar ve ilişkiyi içerir.

Yapay zeka veri merkezi kıyaslama platformu ve bu platformun yapay zeka veri merkezi kümelerini nasıl kıyasladığı.

Bu durum, yapay zeka ağlarının ölçülmesinde birçok zorluk ve soruna yol açmaktadır:

- Üretim ağının tamamını laboratuvarda kopyalamanın zorluğu, maliyet, ekipman, yüksek vasıflı yapay zeka ağ mühendislerinin yetersizliği, alan, güç kaynağı ve sıcaklık gibi sınırlamalardan kaynaklanmaktadır.

- Üretim sisteminde yapılan testler, üretim sisteminin kendi işlem kapasitesini azaltır.

- Sorunların ölçeği ve kapsamındaki farklılıklar nedeniyle sorunların doğru bir şekilde yeniden üretilmesinde zorluk yaşanması.

Amerika Birleşik Devletleri - Vietnam: Kaçırma

Dışişleri Bakanlığı, ABD'nin Vietnam Büyükelçisi için hazırlanan Güven Mektubunun bir kopyasını aldı.2 Temmuz öğleden sonra, Dışişleri Bakanlığı merkezinde, Devlet Protokolü ve Yabancı Diller Tercüme Dairesi Müdürü Sayın Le Cong Dung, Amerika Birleşik Devletleri'nin Vietnam Büyükelçisi Sayın Jennifer Wicks'ten Güven Mektubu'nun bir kopyasını teslim aldı.

Büyükelçi Nguyen Quoc Dung, ABD'nin Minnesota eyaletini ziyaret etti ve orada çalışmalar yürüttü.Vietnam'ın ABD Büyükelçisi Nguyen Quoc Dung, 28-30 Haziran tarihleri ​​arasında Minnesota'yı ziyaret ederek burada çalışmalar yürüttü.

Vietnam, ABD şirketlerini yüksek teknoloji alanındaki yatırımlarını genişletmeye teşvik ediyor.26 Haziran sabahı, Hükümet Merkezi'nde Başbakan Yardımcısı Ho Quoc Dung, Coherent Group (ABD) Tedarik Zinciri Direktörü Jeff Place'i kabul etti. Görüşmede Başbakan Yardımcısı, Vietnam'ın ABD şirketlerini özellikle yüksek teknoloji, inovasyon ve yarı iletken sektörlerinde yatırımlarını genişletmeye teşvik ettiğini belirtti.

- GPU'ların birbirine bağlanma biçimindeki karmaşıklık.

Bu zorlukların üstesinden gelmek için işletmeler, önerilen kurulumların bir alt kümesinin laboratuvar ortamında kıyaslama testlerini yaparak JCT (iş tamamlama süresi), yapay zeka ekibinin ulaşabileceği bant genişliği gibi temel parametreleri ölçebilir ve bunları anahtarlama platformu kullanımı ve önbellekleme kullanımıyla karşılaştırabilirler. Bu kıyaslama testi, GPU/işlem yükü ile ağ tasarımı/kurulumu arasında doğru dengeyi bulmaya yardımcı olur. Sonuçlardan memnun kalındığında, bilgisayar mimarları ve ağ mühendisleri bu kurulumları üretime uygulayabilir ve yeni sonuçları ölçebilirler.

Kurumsal araştırma laboratuvarları, araştırma enstitüleri ve üniversiteler, özellikle en iyi uygulamalar sürekli değiştiği için, büyük ağlarda çalışmanın zorluklarını ele almak amacıyla etkili yapay zeka ağlarının oluşturulması ve işletilmesinin her yönünü analiz etmek için çalışıyor. Bu tekrarlanabilir işbirlikçi yaklaşım, işletmelerin tekrarlanabilir ölçümler ve hızlı "eğer-o zaman" senaryo testleri gerçekleştirmesinin tek yoludur; bu da yapay zeka destekli ağların optimizasyonu için temeldir.

(Kaynak: Keysight Technologies)

Kaynak: https://vietnamnet.vn/ket-noi-mang-ai-5-dieu-can-biet-2321288.html