Łączenie się z sieciami AI – 5 rzeczy, które musisz wiedzieć

Procesory graficzne są mózgami komputerów AI.

Mówiąc prościej, jednostka przetwarzania grafiki (GPU) działa jak mózg komputera AI.

Jak zapewne wiesz, jednostka centralna (CPU) to mózg komputera. Zaletą GPU jest to, że jest to wyspecjalizowany procesor do wykonywania złożonych obliczeń. Najszybszym sposobem na ich wykonanie jest wspólne rozwiązywanie problemu przez grupy GPU. Mimo to, wytrenowanie modelu sztucznej inteligencji (AI) może zająć tygodnie, a nawet miesiące. Po zbudowaniu jest on umieszczany w systemie komputerowym front-end, a użytkownicy mogą zadawać pytania modelowi AI; ten proces nazywa się wnioskowaniem.

Komputer AI zawiera wiele procesorów GPU.

Najlepszą architekturą rozwiązywania problemów związanych ze sztuczną inteligencją jest wykorzystanie grupy procesorów GPU w szafie rack, podłączonych do przełącznika na szczycie szafy. Wiele szaf GPU można dodatkowo połączyć w hierarchiczny system łączności sieciowej. Wraz ze wzrostem złożoności problemów do rozwiązania rosną również wymagania dotyczące procesorów GPU, a niektóre projekty potencjalnie wymagają wdrożenia klastrów składających się z tysięcy procesorów GPU.

Każdy klaster AI jest małą siecią.

Podczas tworzenia klastra AI konieczne jest utworzenie niewielkiej sieci komputerowej, która połączy procesory graficzne i umożliwi im efektywną współpracę oraz udostępnianie danych.

Klaster AI

Powyższy diagram ilustruje klaster AI, w którym kółka u dołu reprezentują przepływy pracy realizowane na procesorach GPU. Procesory GPU łączą się z przełącznikami w górnej szafie (ToR). Przełączniki ToR łączą się również z przełącznikami szkieletowymi sieci przedstawionymi na powyższym diagramie, demonstrując przejrzystą hierarchię sieci niezbędną w przypadku użycia wielu procesorów GPU.

Może ci się spodobać

Jak sztuczna inteligencja zmienia przemysł filmowy?Wiceminister kultury, sportu i turystyki Nguyen Huy Dung podkreślił, że branża filmowa musi zmienić swoje podejście i uwzględniać prawa własności intelektualnej już na etapie projektowania i produkcji, zamiast zajmować się nimi dopiero na etapie końcowym...

Przyjęto 137 obywateli Wietnamu repatriowanych do Kambodży.Na Międzynarodowej Przeprawie Granicznej Moc Bai, Straż Graniczna prowincji Tay Ninh, we współpracy z innymi siłami, niedawno przyjęła 137 obywateli Wietnamu przekazanych przez władze Kambodży.

Szpital Regionalny Tuyen Hoa: Podnoszenie jakości opieki zdrowotnej, solidny fundament zdrowia dla ludzi.Stale podnosząc jakość usług, promując transformację cyfrową i rozwijając nowe usługi techniczne, Szpital Regionalny Tuyen Hoa stopniowo umacnia swoją pozycję niezawodnego dostawcy opieki zdrowotnej dla mieszkańców północnej części prowincji Quang Tri. Osiągnięcia te nie tylko odzwierciedlają wysiłki personelu medycznego w pokonywaniu trudności, ale także przyczyniają się do zapewnienia mieszkańcom dostępu do wysokiej jakości usług opieki zdrowotnej w ich okolicy.

Sieci stanowią wąskie gardło we wdrażaniu sztucznej inteligencji.
Jesienią ubiegłego roku, podczas światowego szczytu Open Computer Project (OCP), na którym delegaci pracowali nad budową infrastruktury sztucznej inteligencji nowej generacji, delegat Loi Nguyen z Marvell Technology zwrócił uwagę na kluczową kwestię: „sieci są nowym wąskim gardłem”.

Z technicznego punktu widzenia, wysokie opóźnienie pakietów lub ich utrata spowodowana przeciążeniem sieci może powodować ponowne wysyłanie pakietów, co znacznie wydłuża czas realizacji zadania (JCT). W rezultacie, warte miliony, a nawet dziesiątki milionów dolarów procesory graficzne należące do firm marnują się z powodu nieefektywnych systemów AI, co negatywnie wpływa na firmy zarówno pod względem przychodów, jak i czasu wprowadzania produktów na rynek.

Testowanie i pomiary są kluczowymi warunkami pomyślnego działania sieci AI.

Aby klaster AI mógł sprawnie funkcjonować, procesory graficzne (GPU) muszą być w stanie w pełni wykorzystać swoją moc, skracając czas szkolenia i wdrażając modele uczenia się, maksymalizując zwrot z inwestycji. Dlatego konieczne jest testowanie i ocena wydajności klastra AI (rysunek 2). Zadanie to nie jest jednak łatwe, ponieważ architektura systemu obejmuje wiele ustawień i relacji między procesorem graficznym a strukturą sieci, które muszą się wzajemnie uzupełniać, aby rozwiązać problem.

Platforma do testowania wydajności centrów danych AI i sposób, w jaki przeprowadza ona testy wydajności klastrów centrów danych AI.

Stwarza to wiele trudności i wyzwań w pomiarze sieci AI:

- Wyzwaniem w powieleniu całej sieci produkcyjnej w laboratorium są ograniczenia dotyczące kosztów, sprzętu, niedoboru wysoko wykwalifikowanych inżynierów sieciowych AI, przestrzeni, zasilania i temperatury.

- Testowanie w systemie produkcyjnym zmniejsza dostępną moc obliczeniową samego systemu produkcyjnego.

- Trudności w dokładnym odtworzeniu problemów ze względu na różnice w skali i zakresie problemów.

Stany Zjednoczone - Wietnam: Nie przegap

Ambasador Nguyen Quoc Dung odwiedza i pracuje w Minnesocie, USA.W dniach 28-30 czerwca ambasador Wietnamu w Stanach Zjednoczonych, Nguyen Quoc Dung, złożył wizytę i pracował w Minnesocie.

Wietnam zachęca amerykańskie przedsiębiorstwa do zwiększenia inwestycji w zaawansowane technologie.Rankiem 26 czerwca w siedzibie rządu wicepremier Ho Quoc Dung przyjął Jeffa Place'a, dyrektora ds. łańcucha dostaw w Coherent Group (USA). Podczas spotkania wicepremier potwierdził, że Wietnam zachęca amerykańskie firmy do zwiększania inwestycji, zwłaszcza w branżę zaawansowanych technologii, innowacji i półprzewodników.

Zachęcać amerykańskie przedsiębiorstwa do zwiększenia inwestycji w sektorach zaawansowanych technologii.Wicepremier Ho Quoc Dung powiedział, że Wietnam chętnie przyjmie amerykańskie przedsiębiorstwa do dalszego rozszerzania swojej działalności na terenie Wietnamu, szczególnie w branżach high-tech i sektorach o wysokiej wartości dodanej.

- Złożoność łączenia się ze sobą układów GPU.

Aby sprostać tym wyzwaniom, firmy mogą przeprowadzić testy porównawcze podzbioru proponowanych konfiguracji w środowisku laboratoryjnym, aby porównać kluczowe parametry, takie jak JCT (czas wykonania zadania), przepustowość osiągalną przez zespół AI, oraz porównać je z wykorzystaniem platformy przełączającej i pamięci podręcznej. Takie testy porównawcze pomagają znaleźć właściwą równowagę między obciążeniem procesora graficznego (GPU) a projektem/instalacją sieci. Po uzyskaniu satysfakcjonujących rezultatów, architekci komputerowi i inżynierowie sieciowi mogą wdrożyć te konfiguracje w środowisku produkcyjnym i zmierzyć nowe rezultaty.

Przedsiębiorstwa, laboratoria badawcze, instytuty badawcze i uniwersytety pracują nad analizą każdego aspektu budowy i obsługi efektywnych sieci AI, aby sprostać wyzwaniom związanym z pracą w dużych sieciach, zwłaszcza w obliczu ciągłych zmian w najlepszych praktykach. To powtarzalne podejście oparte na współpracy to jedyny sposób, w jaki firmy mogą wykonywać powtarzalne pomiary i szybko testować scenariusze „jeśli-to” – co jest kluczowe dla optymalizacji sieci opartych na AI.

(Źródło: Keysight Technologies)

Źródło: https://vietnamnet.vn/ket-noi-mang-ai-5-dieu-can-biet-2321288.html