การเชื่อมต่อกับเครือข่าย AI - 5 สิ่งที่คุณควรรู้

GPU คือสมองของคอมพิวเตอร์ AI

กล่าวโดยสรุป หน่วยประมวลผลกราฟิก (GPU) ทำหน้าที่เป็นสมองของคอมพิวเตอร์ AI

อย่างที่คุณอาจทราบแล้ว หน่วยประมวลผลกลาง (CPU) คือสมองของคอมพิวเตอร์ ข้อดีของ GPU คือเป็น CPU ที่เชี่ยวชาญด้านการคำนวณที่ซับซ้อน วิธีที่เร็วที่สุดในการคำนวณเหล่านี้คือการใช้กลุ่ม GPU หลายตัวร่วมกันแก้ปัญหา ถึงกระนั้น การฝึกฝนโมเดล AI ก็ยังอาจใช้เวลาหลายสัปดาห์หรือหลายเดือน เมื่อสร้างเสร็จแล้ว จะนำไปวางไว้ในระบบคอมพิวเตอร์ส่วนหน้า และผู้ใช้สามารถถามคำถามกับโมเดล AI ได้ กระบวนการนี้เรียกว่าการอนุมาน (inference)

คอมพิวเตอร์ AI ประกอบด้วยหน่วยประมวลผลกราฟิก (GPU) หลายตัว

สถาปัตยกรรมที่ดีที่สุดสำหรับการแก้ปัญหา AI คือการใช้กลุ่ม GPU ในแร็คที่เชื่อมต่อกับสวิตช์ที่อยู่ด้านบนของแร็ค สามารถเชื่อมต่อแร็ค GPU หลายแร็คเข้าด้วยกันเพิ่มเติมได้ในระบบการเชื่อมต่อเครือข่ายแบบลำดับชั้น เมื่อปัญหาที่จะต้องแก้ไขมีความซับซ้อนมากขึ้น ความต้องการ GPU ก็จะเพิ่มขึ้นด้วย โดยบางโครงการอาจจำเป็นต้องใช้งานคลัสเตอร์ GPU หลายพันตัว

แต่ละคลัสเตอร์ AI เป็นเครือข่ายขนาดเล็ก

ในการสร้างคลัสเตอร์ AI จำเป็นต้องตั้งค่าเครือข่ายคอมพิวเตอร์ขนาดเล็กเพื่อเชื่อมต่อและอนุญาตให้ GPU ทำงานร่วมกันและแบ่งปันข้อมูลได้อย่างมีประสิทธิภาพ

กลุ่ม AI

แผนภาพด้านบนแสดงให้เห็นคลัสเตอร์ AI โดยวงกลมด้านล่างแสดงถึงเวิร์กโฟลว์ที่ทำงานบน GPU GPU เชื่อมต่อกับสวิตช์บนแร็คด้านบน (ToR) สวิตช์ ToR เหล่านี้ยังเชื่อมต่อกับสวิตช์โครงข่ายหลักที่แสดงในแผนภาพด้านบน ซึ่งแสดงให้เห็นถึงลำดับชั้นของเครือข่ายที่ชัดเจนซึ่งจำเป็นเมื่อมีการใช้งาน GPU หลายตัว

คุณอาจสนใจ

หัวหน้าตำรวจหญิงที่ใช้ AI กลายเป็น "อาวุธ" ต่อต้านการฉ้อโกงออนไลน์ในญี่ปุ่น(หนังสือพิมพ์ Dan Tri) - ญี่ปุ่นได้ส่งเจ้าหน้าที่พิเศษไปปฏิบัติภารกิจต่อต้านการฉ้อโกงทางออนไลน์ ซึ่งเป็นภัยร้ายที่สร้างความเสียหายอย่างมากต่อประชาชนมานานหลายปี

การอนุรักษ์หอคอยโบราณอายุพันปีริมแม่น้ำลำ ซึ่งเป็นสถานที่ค้นพบสมบัติล้ำค่าของชาติVTV.vn - หอคอยโบราณริมแม่น้ำลำ ซึ่งรอดพ้นจากการเปลี่ยนแปลงทางประวัติศาสตร์มามากมาย แม้ปัจจุบันจะเหลือเพียงฐานราก แต่ก็ได้พบหีบเก็บพระธาตุ ซึ่งเป็นสมบัติล้ำค่าของชาติที่หาได้ยาก

ภาพเหมือนและข้อมูลเกี่ยวกับวีรชน เล ดินห์ เทียปในหนังสือพิมพ์กองทัพประชาชน ฉบับวันที่ 1 มิถุนายน 2569 ในส่วน "อนุสรณ์และสิ่งของที่ระลึกของวีรชน" ได้ตีพิมพ์ข้อมูลเกี่ยวกับขวดน้ำที่สลักคำว่า "ต่อเนื่อง"

เครือข่ายเป็นอุปสรรคสำคัญในการนำ AI ไปใช้งาน
เมื่อฤดูใบไม้ร่วงที่ผ่านมา ในการประชุมสุดยอดระดับโลกของโครงการ Open Computer Project (OCP) ซึ่งผู้แทนกำลังสร้างโครงสร้างพื้นฐาน AI รุ่นต่อไป ผู้แทน Loi Nguyen จาก Marvell Technology ได้ชี้ให้เห็นประเด็นสำคัญประเด็นหนึ่งว่า "เครือข่ายคือคอขวดใหม่"

ในทางเทคนิคแล้ว ความล่าช้าของแพ็กเก็ตสูงหรือการสูญหายของแพ็กเก็ตเนื่องจากความแออัดของเครือข่ายอาจทำให้แพ็กเก็ตถูกส่งซ้ำ ซึ่งส่งผลให้เวลาในการทำงานเสร็จสมบูรณ์ (Job Completion Time: JCT) เพิ่มขึ้นอย่างมาก ผลที่ตามมาคือ GPU มูลค่าหลายล้านหรือหลายสิบล้านดอลลาร์ของธุรกิจต่างๆ ต้องสูญเปล่าเนื่องจากระบบ AI ที่ไม่มีประสิทธิภาพ ทำให้ธุรกิจเสียหายทั้งในแง่ของรายได้และเวลาในการออกสู่ตลาด

การทดสอบและการวัดผลเป็นเงื่อนไขสำคัญสำหรับการทำงานที่ประสบความสำเร็จของเครือข่าย AI

เพื่อให้คลัสเตอร์ AI ทำงานได้อย่างมีประสิทธิภาพ GPU จำเป็นต้องสามารถใช้ศักยภาพอย่างเต็มที่เพื่อลดเวลาในการฝึกฝนและนำโมเดลการเรียนรู้ไปใช้เพื่อให้ได้ผลตอบแทนจากการลงทุนสูงสุด ดังนั้น การทดสอบและประเมินประสิทธิภาพของคลัสเตอร์ AI จึงเป็นสิ่งจำเป็น (รูปที่ 2) อย่างไรก็ตาม งานนี้ไม่ใช่เรื่องง่าย เนื่องจากสถาปัตยกรรมของระบบเกี่ยวข้องกับการตั้งค่าและความสัมพันธ์ระหว่าง GPU และโครงสร้างเครือข่ายจำนวนมากที่ต้องเสริมซึ่งกันและกันเพื่อแก้ปัญหา

แพลตฟอร์มการวัดประสิทธิภาพศูนย์ข้อมูล AI และวิธีการวัดประสิทธิภาพคลัสเตอร์ศูนย์ข้อมูล AI

สิ่งนี้ก่อให้เกิดความยากลำบากและความท้าทายมากมายในการวัดผลเครือข่าย AI:

- ความท้าทายในการจำลองเครือข่ายการผลิตทั้งหมดในห้องปฏิบัติการนั้นเกิดจากข้อจำกัดด้านต้นทุน อุปกรณ์ การขาดแคลนวิศวกรเครือข่าย AI ที่มีทักษะสูง พื้นที่ แหล่งจ่ายไฟ และอุณหภูมิ

- การทดสอบบนระบบการผลิตจะลดกำลังการผลิตที่มีอยู่ของระบบการผลิตนั้นลง

- ความยากลำบากในการจำลองปัญหาได้อย่างแม่นยำ เนื่องจากความแตกต่างในขนาดและขอบเขตของปัญหา

สหรัฐอเมริกา - เวียดนาม: อย่าพลาด

เวียดนามสนับสนุนให้ธุรกิจของสหรัฐฯ ขยายการลงทุนในด้านเทคโนโลยีขั้นสูงเมื่อเช้าวันที่ 26 มิถุนายน ณ ทำเนียบรัฐบาล รองนายกรัฐมนตรี โฮ กว็อก ดุง ได้ให้การต้อนรับนายเจฟฟ์ เพลส ผู้อำนวยการฝ่ายห่วงโซ่อุปทานของบริษัท โคเฮอเรนท์ กรุ๊ป (สหรัฐอเมริกา) ในระหว่างการประชุม รองนายกรัฐมนตรีได้ยืนยันว่าเวียดนามสนับสนุนให้ธุรกิจของสหรัฐฯ ขยายการลงทุน โดยเฉพาะอย่างยิ่งในอุตสาหกรรมเทคโนโลยีขั้นสูง นวัตกรรม และเซมิคอนดักเตอร์

สนับสนุนให้ธุรกิจของสหรัฐฯ ขยายการลงทุนในภาคส่วนเทคโนโลยีขั้นสูงรองนายกรัฐมนตรี โฮ กว็อก ดุง กล่าวว่า เวียดนามยินดีต้อนรับธุรกิจของสหรัฐฯ ให้ขยายการดำเนินงานในเวียดนามอย่างต่อเนื่อง โดยเฉพาะในอุตสาหกรรมไฮเทคและภาคส่วนที่มีมูลค่าเพิ่มสูง

เวียดนามและสหรัฐอเมริกาเสริมสร้างความร่วมมือในการแก้ไขผลกระทบจากสงครามVTV.vn - เมื่อวันที่ 22 มิถุนายน เลขาธิการและประธานพรรค โต ลัม ได้ให้การต้อนรับ เลขาธิการกระทรวงกองทัพเรือสหรัฐฯ รักษาการ หง เฉา

- ความซับซ้อนในการเชื่อมต่อ GPU เข้าด้วยกัน

เพื่อรับมือกับความท้าทายเหล่านี้ ธุรกิจต่างๆ สามารถทำการทดสอบประสิทธิภาพของชุดการตั้งค่าที่เสนอไว้ในสภาพแวดล้อมห้องปฏิบัติการ เพื่อวัดพารามิเตอร์สำคัญ เช่น JCT (เวลาในการทำงานให้เสร็จสิ้น) แบนด์วิดท์ที่ทีม AI สามารถทำได้ และเปรียบเทียบกับปริมาณการใช้งานแพลตฟอร์มการสลับและปริมาณการใช้งานแคช การทดสอบประสิทธิภาพนี้จะช่วยหาจุดสมดุลที่เหมาะสมระหว่างภาระงาน GPU/การประมวลผล และการออกแบบ/การติดตั้งเครือข่าย เมื่อพอใจกับผลลัพธ์แล้ว สถาปนิกคอมพิวเตอร์และวิศวกรเครือข่ายสามารถนำการตั้งค่าเหล่านี้ไปใช้ในสภาพแวดล้อมการผลิตและวัดผลลัพธ์ใหม่ได้

ห้องปฏิบัติการวิจัยขององค์กร สถาบันวิจัย และมหาวิทยาลัยต่าง ๆ กำลังทำงานเพื่อวิเคราะห์ทุกแง่มุมของการสร้างและการดำเนินงานเครือข่าย AI ที่มีประสิทธิภาพ เพื่อรับมือกับความท้าทายในการทำงานบนเครือข่ายขนาดใหญ่ โดยเฉพาะอย่างยิ่งเมื่อแนวปฏิบัติที่ดีที่สุดมีการเปลี่ยนแปลงอยู่ตลอดเวลา แนวทางการทำงานร่วมกันที่ทำซ้ำได้นี้เป็นวิธีเดียวที่ธุรกิจจะสามารถทำการวัดผลซ้ำได้และทดสอบสถานการณ์ "ถ้า-แล้ว" ได้อย่างรวดเร็ว ซึ่งเป็นพื้นฐานสำคัญในการเพิ่มประสิทธิภาพเครือข่ายที่ขับเคลื่อนด้วย AI

(ที่มา: Keysight Technologies)

ที่มา: https://vietnamnet.vn/ket-noi-mang-ai-5-dieu-can-biet-2321288.html