כרטיסי מסך הם המוח של מחשבי בינה מלאכותית.
במילים פשוטות, יחידת עיבוד הגרפיקה (GPU) משמשת כמוח של מחשב בינה מלאכותית.
כפי שאתם אולי כבר יודעים, יחידת העיבוד המרכזית (CPU) היא המוח של מחשב. היתרון של GPU טמון בעובדה שמדובר במעבד ייעודי לביצוע חישובים מורכבים. הדרך המהירה ביותר לבצע חישובים אלה היא שקבוצות של GPU יפתרו בעיה יחד. למרות זאת, אימון מודל בינה מלאכותית עדיין יכול להימשך שבועות או אפילו חודשים. לאחר בנייתו, הוא ממוקם במערכת המחשב הקדמית, והמשתמשים יכולים לשאול שאלות למודל הבינה המלאכותית; תהליך זה נקרא הסקה.
מחשב בינה מלאכותית מכיל מספר מעבדים גרפיים (GPUs).
הארכיטקטורה הטובה ביותר לפתרון בעיות בינה מלאכותית היא שימוש בקבוצת מעבדים גרפיים (GPUs) במדף, המחוברים למתג בחלקו העליון של המדף. בנוסף, ניתן לחבר מספר מדפי GPU במערכת קישוריות רשת היררכית. ככל שהבעיות שיש לפתור הופכות מורכבות יותר, כך גם דרישות ה-GPU עולות, כאשר בחלק מהפרויקטים ייתכן שיהיה צורך לפרוס אשכולות של אלפי מעבדים גרפיים.
כל אשכול בינה מלאכותית הוא רשת קטנה.
בעת בניית אשכול בינה מלאכותית, יש צורך להקים רשת מחשבים קטנה שתתחבר ותאפשר למעבדים הגרפיים לעבוד יחד ולשתף נתונים ביעילות.
הדיאגרמה למעלה ממחישה אשכול בינה מלאכותית שבו העיגולים בתחתית מייצגים זרימות עבודה הפועלות על מעבדים גרפיים (GPUs). מעבדים גרפיים מתחברים למתגים במדף העליון (ToR). מתגי ToR אלה מתחברים גם למתגי עמוד השדרה של הרשת המוצגים למעלה בתרשים, מה שמדגים את היררכיית הרשת הברורה הנדרשת כאשר מעורבים מספר מעבדים גרפיים.
רשתות הן צוואר בקבוק בפריסת בינה מלאכותית.
בסתיו שעבר, בפסגה העולמית של פרויקט המחשבים הפתוחים (OCP), שבה עסקו המשתתפים בבניית הדור הבא של תשתית בינה מלאכותית, הצביעה המשתתפת לוי נגוין ממארוול טכנולוג'י על נושא מרכזי: "רשתות הן צוואר הבקבוק החדש".
מבחינה טכנית, השהיית חבילות גבוהה או אובדן חבילות עקב עומס ברשת עלולים לגרום לשליחת חבילות מחדש, מה שמגדיל משמעותית את זמן השלמת העבודה (JCT). כתוצאה מכך, מיליוני או עשרות מיליוני דולרים של כרטיסי מסך השייכים לעסקים מבוזבזים עקב מערכות בינה מלאכותית לא יעילות, ופוגעים בעסקים הן מבחינת הכנסות והן מבחינת זמן הגעה לשוק.
בדיקה ומדידה הן תנאים מכריעים להפעלה מוצלחת של רשתות בינה מלאכותית.
כדי להפעיל אשכול בינה מלאכותית ביעילות, מעבדים גרפיים צריכים להיות מסוגלים לנצל את מלוא הקיבולת שלהם כדי לקצר את זמן האימון וליישם מודלים של למידה כדי למקסם את התשואה על ההשקעה. לכן, בדיקה והערכת ביצועי אשכול הבינה המלאכותית נחוצים (איור 2). עם זאת, משימה זו אינה קלה, שכן ארכיטקטורת המערכת כוללת הגדרות ויחסים רבים בין המעבד הגרפי למבנה הרשת, שצריכים להשלים זה את זה כדי לפתור את הבעיה.
זה יוצר קשיים ואתגרים רבים במדידת רשתות בינה מלאכותית:
- האתגר בשכפול רשת הייצור כולה במעבדה נובע ממגבלות בעלות, בציוד, במחסור במהנדסי רשתות בינה מלאכותית מיומנים ביותר, במקום, באספקת חשמל ובטמפרטורה.
- בדיקות באתר במערכת ייצור מפחיתות את כושר העיבוד הזמינה של מערכת הייצור עצמה.
- קושי בשחזור מדויק של בעיות עקב הבדלים בקנה מידה ובהיקף הבעיות.
- המורכבות של האופן שבו מעבדים גרפיים מתחברים באופן קולקטיבי.
כדי להתמודד עם אתגרים אלה, עסקים יכולים לבצע השוואות ביצועים של תת-קבוצה של הגדרות מוצעות בסביבת מעבדה כדי להשוות פרמטרים מרכזיים כגון JCT (זמן השלמת עבודה), רוחב הפס שניתן להשיג על ידי צוות הבינה המלאכותית, ולהשוות אותם לשימוש בפלטפורמות מיתוג ושימוש במטמון. השוואות ביצועים אלו עוזרות למצוא את האיזון הנכון בין עומס עבודה של GPU/עיבוד לבין תכנון/התקנה של הרשת. לאחר שביעות רצון מהתוצאות, אדריכלי המחשבים ומהנדסי הרשת יכולים ליישם הגדרות אלו על הייצור ולמדוד את התוצאות החדשות.
מעבדות מחקר ארגוניות, מכוני מחקר ואוניברסיטאות עובדים על מנת לנתח כל היבט של בנייה ותפעול של רשתות בינה מלאכותית יעילות כדי להתמודד עם האתגרים של עבודה על רשתות גדולות, במיוחד כאשר שיטות עבודה מומלצות משתנות ללא הרף. גישה שיתופית חוזרת ונשנית זו היא הדרך היחידה עבור עסקים לבצע מדידות חוזרות ונשנות ובדיקות תרחישים מהירות של "אם-אז" - יסוד לאופטימיזציה של רשתות המונעות על ידי בינה מלאכותית.
(מקור: Keysight Technologies)
[מודעה_2]
מקור: https://vietnamnet.vn/ket-noi-mang-ai-5-dieu-can-biet-2321288.html
