Menghubungkan ke jaringan AI - 5 hal yang perlu Anda ketahui

GPU adalah otak dari komputer AI.

Sederhananya, unit pemrosesan grafis (GPU) bertindak sebagai otak dari komputer AI.

Seperti yang mungkin sudah Anda ketahui, unit pemrosesan pusat (CPU) adalah otak dari sebuah komputer. Keunggulan GPU terletak pada kenyataan bahwa ia merupakan CPU khusus untuk melakukan perhitungan kompleks. Cara tercepat untuk melakukan perhitungan ini adalah dengan menggunakan sekelompok GPU untuk menyelesaikan suatu masalah bersama-sama. Meskipun demikian, melatih model AI masih dapat memakan waktu berminggu-minggu atau bahkan berbulan-bulan. Setelah dibangun, model tersebut ditempatkan di sistem komputer front-end, dan pengguna dapat mengajukan pertanyaan kepada model AI; proses ini disebut inferensi.

Komputer AI berisi beberapa GPU.

Arsitektur terbaik untuk memecahkan masalah AI adalah dengan menggunakan sekelompok GPU dalam sebuah rak, yang terhubung ke switch di bagian atas rak. Beberapa rak GPU dapat dihubungkan lebih lanjut dalam sistem konektivitas jaringan hierarkis. Seiring dengan semakin kompleksnya masalah yang harus dipecahkan, kebutuhan GPU juga meningkat, dengan beberapa proyek berpotensi perlu menggunakan klaster yang terdiri dari ribuan GPU.

Setiap klaster AI merupakan jaringan kecil.

Saat membangun klaster AI, perlu untuk menyiapkan jaringan komputer kecil agar dapat menghubungkan dan memungkinkan GPU untuk bekerja sama dan berbagi data secara efisien.

Klaster AI

Diagram di atas menggambarkan Klaster AI di mana lingkaran di bagian bawah mewakili alur kerja yang berjalan pada GPU. GPU terhubung ke switch di rak atas (ToR). Switch ToR ini juga terhubung ke switch tulang punggung jaringan yang ditunjukkan di atas dalam diagram, menunjukkan hierarki jaringan yang jelas yang diperlukan ketika beberapa GPU terlibat.

Mungkin Anda juga suka

Mungkinkah AI menjadi kekuatan pendorong di balik hasil mengejutkan di Piala Dunia 2026?Menurut para ahli teknologi, Piala Dunia 2026 akan menyaksikan banyak hasil mengejutkan berkat kecerdasan buatan (AI) yang berbagi data. Analisis yang dibantu AI terhadap setiap tembakan pemain telah membantu tim-tim yang lebih lemah menemukan cara untuk menetralisir lawan mereka.

Kementerian Pendidikan dan Pelatihan mensyaratkan perampingan sekolah negeri sebesar 30%: Tidak ada penggabungan mekanis, tidak ada siswa yang putus sekolah.(CLO) Kementerian Pendidikan dan Pelatihan (MOET) baru saja meminta pemerintah daerah untuk mempercepat restrukturisasi jaringan lembaga pendidikan negeri sesuai dengan model pemerintahan daerah dua tingkat, berupaya mengurangi setidaknya 30% unit pengelola sambil memastikan hak siswa atas pendidikan dan tidak menciptakan hambatan dalam bersekolah.

Aktris Liang Shan telah meninggal dunia.Liang Shan memasuki industri hiburan pada tahun 1960-an dan dikenal melalui film-film seperti "Shao Liu Xiang" dan "Tian Long Ba Bu"...

Jaringan merupakan hambatan dalam penerapan AI.
Musim gugur lalu, di KTT global Open Computer Project (OCP), di mana para delegasi membangun infrastruktur AI generasi berikutnya, delegasi Loi Nguyen dari Marvell Technology menyoroti masalah utama: "jaringan adalah hambatan baru."

Secara teknis, latensi paket yang tinggi atau kehilangan paket akibat kemacetan jaringan dapat menyebabkan paket dikirim ulang, sehingga secara signifikan meningkatkan waktu penyelesaian pekerjaan (JCT). Akibatnya, jutaan atau puluhan juta dolar nilai GPU milik perusahaan terbuang sia-sia karena sistem AI yang tidak efisien, merugikan bisnis baik dari segi pendapatan maupun waktu pemasaran.

Pengujian dan pengukuran merupakan kondisi penting untuk keberhasilan pengoperasian jaringan AI.

Untuk mengoperasikan klaster AI secara efisien, GPU perlu mampu memanfaatkan kapasitas penuhnya untuk mempersingkat waktu pelatihan dan mengimplementasikan model pembelajaran guna memaksimalkan pengembalian investasi. Oleh karena itu, pengujian dan evaluasi kinerja klaster AI sangat diperlukan (Gambar 2). Namun, tugas ini tidak mudah, karena arsitektur sistem melibatkan banyak pengaturan dan hubungan antara GPU dan struktur jaringan yang perlu saling melengkapi untuk menyelesaikan masalah.

Platform benchmarking pusat data AI dan bagaimana platform tersebut melakukan benchmarking terhadap klaster pusat data AI.

Hal ini menimbulkan banyak kesulitan dan tantangan dalam mengukur jaringan AI:

- Tantangan dalam mereplikasi seluruh jaringan produksi di laboratorium disebabkan oleh keterbatasan biaya, peralatan, kekurangan insinyur jaringan AI yang sangat terampil, ruang, pasokan daya, dan suhu.

- Pengujian di tempat dalam sistem produksi mengurangi kapasitas pemrosesan yang tersedia dari sistem produksi itu sendiri.

- Kesulitan dalam mereproduksi masalah secara akurat karena perbedaan skala dan cakupan masalah.

Amerika Serikat - Vietnam: Jangan lewatkan

Kementerian Luar Negeri menerima salinan Surat Kepercayaan untuk Duta Besar AS untuk Vietnam.Pada sore hari tanggal 2 Juli, di markas Kementerian Luar Negeri, Bapak Le Cong Dung, Direktur Departemen Protokol Negara dan Penerjemahan Asing, menerima salinan Surat Kepercayaan dari Ibu Jennifer Wicks, Duta Besar Amerika Serikat untuk Vietnam.

Duta Besar Nguyen Quoc Dung mengunjungi dan bekerja di Minnesota, Amerika Serikat.Dari tanggal 28-30 Juni, Duta Besar Vietnam untuk Amerika Serikat, Nguyen Quoc Dung, melakukan kunjungan dan bekerja di Minnesota.

Vietnam mendorong perusahaan-perusahaan AS untuk memperluas investasi di bidang teknologi tinggi.Pada pagi hari tanggal 26 Juni, di Markas Besar Pemerintah, Wakil Perdana Menteri Ho Quoc Dung menerima Bapak Jeff Place, Direktur Rantai Pasokan Coherent Group (AS). Dalam pertemuan tersebut, Wakil Perdana Menteri menegaskan bahwa Vietnam mendorong perusahaan-perusahaan AS untuk memperluas investasi, terutama di industri teknologi tinggi, inovasi, dan semikonduktor.

- Kompleksitas cara GPU terhubung secara kolektif.

Untuk mengatasi tantangan ini, bisnis dapat melakukan benchmarking pada sebagian dari konfigurasi yang diusulkan di lingkungan laboratorium untuk mengukur parameter kunci seperti JCT (waktu penyelesaian pekerjaan), bandwidth yang dapat dicapai oleh tim AI, dan membandingkannya dengan penggunaan platform switching dan penggunaan caching. Benchmarking ini membantu menemukan keseimbangan yang tepat antara beban kerja GPU/pemrosesan dan desain/instalasi jaringan. Setelah puas dengan hasilnya, arsitek komputer dan insinyur jaringan dapat menerapkan konfigurasi ini ke lingkungan produksi dan mengukur hasil baru tersebut.

Laboratorium riset perusahaan, lembaga riset, dan universitas bekerja untuk menganalisis setiap aspek pembangunan dan pengoperasian jaringan AI yang efektif guna mengatasi tantangan dalam mengelola jaringan besar, terutama karena praktik terbaik terus berubah. Pendekatan kolaboratif yang dapat diulang ini adalah satu-satunya cara bagi bisnis untuk melakukan pengukuran yang dapat diulang dan pengujian skenario "jika-maka" yang cepat—yang mendasar untuk mengoptimalkan jaringan berbasis AI.

(Sumber: Keysight Technologies)

Sumber: https://vietnamnet.vn/ket-noi-mang-ai-5-dieu-can-biet-2321288.html