Menyambung ke rangkaian AI - 5 perkara yang perlu anda ketahui

GPU adalah otak komputer AI.

Secara ringkasnya, unit pemprosesan grafik (GPU) bertindak sebagai otak komputer AI.

Seperti yang anda mungkin sudah tahu, unit pemprosesan pusat (CPU) ialah otak komputer. Kelebihan GPU terletak pada hakikat bahawa ia merupakan CPU khusus untuk melakukan pengiraan yang kompleks. Cara terpantas untuk melakukan pengiraan ini adalah dengan meminta sekumpulan GPU menyelesaikan masalah bersama-sama. Walaupun begitu, latihan model AI masih boleh mengambil masa berminggu-minggu atau bahkan berbulan-bulan. Setelah dibina, ia diletakkan di dalam sistem komputer bahagian hadapan, dan pengguna boleh bertanya soalan kepada model AI; proses ini dipanggil inferens.

Komputer AI mengandungi berbilang GPU.

Seni bina terbaik untuk menyelesaikan masalah AI adalah dengan menggunakan sekumpulan GPU dalam rak, yang disambungkan ke suis di atas rak. Pelbagai rak GPU boleh disambungkan secara tambahan dalam sistem sambungan rangkaian hierarki. Apabila masalah yang perlu diselesaikan menjadi lebih kompleks, keperluan GPU juga meningkat, dengan sesetengah projek berpotensi perlu menggunakan kelompok beribu-ribu GPU.

Setiap kluster AI ialah rangkaian kecil.

Apabila membina kluster AI, perlu menyediakan rangkaian komputer kecil untuk bersambung dan membolehkan GPU berfungsi bersama dan berkongsi data dengan cekap.

Kelompok AI

Gambar rajah di atas menggambarkan Kluster AI di mana bulatan di bahagian bawah mewakili aliran kerja yang berjalan pada GPU. GPU bersambung ke suis pada rak atas (ToR). Suis ToR ini juga bersambung ke suis tulang belakang rangkaian yang ditunjukkan di atas dalam gambar rajah, menunjukkan hierarki rangkaian yang jelas yang diperlukan apabila berbilang GPU terlibat.

Anda mungkin juga suka

Tanda satu tahun "menyusun semula negara": Sebuah jentera yang lebih diperkemas, peningkatan yang lebih jelas dalam berkhidmat kepada rakyat.VTV.vn - Selepas setahun mengendalikan model organisasi keseluruhan sistem politik, model kerajaan tiga peringkat, dapat dilihat bahawa aparat telah menjadi lebih diperkemas dan kecekapan dalam berkhidmat kepada rakyat menjadi lebih jelas.

OneDrive akan membenarkan kerja luar talian tidak lama lagi.

Berita khas dalam akhbar Hanoi Moi, 1 Julai 2026.Tindakan yang lebih tegas, pantas dan lebih substantif dalam menarik pelaburan asing; Selepas setahun membina dan mengendalikan sistem kerajaan tempatan dua peringkat: Dasar-dasar utama, keyakinan yang teguh dan masa depan yang cerah; Pendaftaran untuk tahun persekolahan 2026-2027: Ke arah kemudahan dan ketelusan yang lebih baik; Memperketatkan akauntabiliti tempatan terhadap pencemaran alam sekitar; Membantu barangan Vietnam menakluki pelanggan dengan jenama dan kepercayaan… Ini adalah beberapa perkara penting dalam isu akhbar Hanoi Moi bertarikh 1 Julai 2026.

Rangkaian merupakan satu halangan dalam penggunaan AI.
Musim luruh yang lalu, di sidang kemuncak global Projek Komputer Terbuka (OCP), di mana para perwakilan sedang membina infrastruktur AI generasi akan datang, perwakilan Loi Nguyen dari Marvell Technology menegaskan isu utama: "rangkaian merupakan penghalang baharu."

Secara teknikalnya, latensi paket yang tinggi atau kehilangan paket akibat kesesakan rangkaian boleh menyebabkan paket dihantar semula, sekali gus meningkatkan masa penyiapan kerja (JCT) dengan ketara. Akibatnya, GPU bernilai berjuta-juta atau berpuluh-puluh juta dolar milik perniagaan dibazirkan disebabkan oleh sistem AI yang tidak cekap, sekali gus menjejaskan perniagaan dari segi pendapatan dan masa ke pasaran.

Pengujian dan pengukuran merupakan syarat penting untuk kejayaan operasi rangkaian AI.

Untuk mengendalikan kluster AI dengan cekap, GPU perlu berupaya menggunakan kapasiti penuh mereka untuk memendekkan masa latihan dan melaksanakan model pembelajaran bagi memaksimumkan pulangan pelaburan. Oleh itu, pengujian dan penilaian prestasi kluster AI adalah perlu (Rajah 2). Walau bagaimanapun, tugas ini bukanlah mudah, kerana seni bina sistem melibatkan banyak tetapan dan hubungan antara GPU dan struktur rangkaian yang perlu saling melengkapi untuk menyelesaikan masalah.

Platform penanda aras pusat data AI dan cara ia menanda aras kluster pusat data AI.

Ini mewujudkan banyak kesukaran dan cabaran dalam mengukur rangkaian AI:

- Cabaran dalam mereplikasi keseluruhan rangkaian pengeluaran di makmal adalah disebabkan oleh batasan kos, peralatan, kekurangan jurutera rangkaian AI yang berkemahiran tinggi, ruang, bekalan kuasa dan suhu.

- Pengujian pada sistem pengeluaran mengurangkan kapasiti pemprosesan yang tersedia bagi sistem pengeluaran itu sendiri.

- Kesukaran untuk menghasilkan semula masalah dengan tepat disebabkan oleh perbezaan dalam skala dan skop masalah.

Amerika Syarikat - Vietnam: Jangan ketinggalan

Vietnam menggalakkan perniagaan AS untuk mengembangkan pelaburan dalam teknologi tinggi.Pada pagi 26 Jun, di Ibu Pejabat Kerajaan, Timbalan Perdana Menteri Ho Quoc Dung menerima kunjungan Encik Jeff Place, Pengarah Rantaian Bekalan Coherent Group (AS). Semasa mesyuarat itu, Timbalan Perdana Menteri mengesahkan bahawa Vietnam menggalakkan perniagaan AS untuk mengembangkan pelaburan, terutamanya dalam industri berteknologi tinggi, inovasi dan semikonduktor.

Galakkan perniagaan A.S. untuk mengembangkan pelaburan dalam sektor berteknologi tinggi.Timbalan Perdana Menteri Ho Quoc Dung berkata bahawa Vietnam mengalu-alukan perniagaan AS untuk terus mengembangkan operasi mereka di Vietnam, terutamanya dalam industri dan sektor berteknologi tinggi yang mempunyai nilai tambah yang tinggi.

Vietnam dan Amerika Syarikat memperkukuh kerjasama dalam menangani akibat perang.VTV.vn - Pada 22 Jun, Setiausaha Agung dan Presiden To Lam menerima kunjungan Pemangku Setiausaha Tentera Laut AS Hung Cao.

- Kerumitan cara GPU berhubung secara kolektif.

Bagi menangani cabaran ini, perniagaan boleh menjalankan penanda aras bagi subset persediaan yang dicadangkan dalam persekitaran makmal untuk menanda aras parameter utama seperti JCT (masa penyiapan kerja), lebar jalur yang boleh dicapai oleh pasukan AI, dan membandingkannya dengan penggunaan platform pensuisan dan penggunaan caching. Penanda aras ini membantu mencari keseimbangan yang tepat antara beban kerja GPU/pemprosesan dan reka bentuk/pemasangan rangkaian. Setelah berpuas hati dengan hasilnya, arkitek komputer dan jurutera rangkaian boleh menggunakan persediaan ini untuk pengeluaran dan mengukur hasil baharu.

Makmal penyelidikan perusahaan, institut penyelidikan dan universiti sedang berusaha untuk menganalisis setiap aspek pembinaan dan pengendalian rangkaian AI yang berkesan bagi menangani cabaran bekerja pada rangkaian besar, terutamanya apabila amalan terbaik sentiasa berubah. Pendekatan kolaboratif yang boleh diulang ini adalah satu-satunya cara untuk perniagaan melakukan pengukuran yang boleh diulang dan ujian senario "jika-maka" yang pantas—asas untuk mengoptimumkan rangkaian berkuasa AI.

(Sumber: Keysight Technologies)

Sumber: https://vietnamnet.vn/ket-noi-mang-ai-5-dieu-can-biet-2321288.html