זאלו מפתחת מודל בינה מלאכותית בבעלות אזרחים וייטנאמים

העניין העולמי בבינה מלאכותית גובר, כאשר עיקר תשומת הלב ממוקדת במדינות עם רבים ממודלי הבינה המלאכותית המובילים בעולם, כמו ארה"ב וסין. דרום מזרח אסיה - אחד האזורים הכלכליים החשובים בעולם - הופכת בהדרגה למוקד חדש עבור בינה מלאכותית, עם התקדמות משמעותית שעשויות לעניין קובעי מדיניות גלובליים, משקיעים ומומחי טכנולוגיה.

Zalo phát triển mô hình AI do người Việt làm chủ - 1 — לווייטנאם כבר יש מודל בינה מלאכותית מקומי, אחד ממודלי הבינה המלאכותית הבודדים שפותחו מאפס באזור דרום מזרח אסיה כיום (צילום: זאלו).

בווייטנאם, המפלגה והממשלה נחושות גם לעצב ולקדם את עידן הפיתוח הטכנולוגי של המדינה, כפי שהודגם בהחלטה 57-NQ/TW בנושא פריצת דרך בפיתוח מדעי וטכנולוגי, חדשנות וטרנספורמציה דיגיטלית לאומית. כיוון זה יצר כוח מניע חזק עבור מפעלי טכנולוגיה מקומיים להשקיע ולנצל את הפוטנציאל של טכנולוגיה עולמית מתקדמת.

נכון לעכשיו, וייטנאם הפכה לאחת המדינות הבודדות בדרום מזרח אסיה המחזיקות במודל שפה מקומי גדול (LLM). באופן ספציפי, מאז 2023, זאלו הכשירה והשיקה בהצלחה מודל LLM המתמקד בווייטנאמית, שנחקר ופותח כולו על ידי צוות מהנדסים וייטנאמים.

בחרו אימון מההתחלה וקבלו תוצאות בלתי צפויות

נכון לעכשיו, למודלים של בינה מלאכותית יש שתי טכניקות אימון, כולל: טכניקת מודל מכוון עדין היא השיטה לאופטימיזציה של מודלים מדויקים (LLMs) שאומנו בעבר כדי ליצור מודלים מדויקים חדשים למטרות מיוחדות; טכניקת אימון מודל מאפס היא תהליך של בניית מודל חדש לחלוטין, מאתחול פרמטרים, קביעת ארכיטקטורת מודל ועד לאילגוריתם אימון על מערך נתונים מסוים.

ביניהן, טכניקות כוונון עדין נבחרות על ידי עסקים רבים בשל יתרונותיהן כגון יישום קל, חיסכון במשאבים ויכולת לספק יעילות טובה יותר. במיוחד בהקשר של וייטנאם, שם ציוד ונתוני הדרכה מוגבלים, טכניקות כוונון עדין הן פתרון עדיף.

עם זאת, זאלו בחר בטכניקת האימון כבר מההתחלה. בשיטה זו, כל תהליך האימון והמודל נמצאים בבעלות ובשליטה מלאים של העם הווייטנאמי. הודות לכך, וייטנאם הפכה לאחת המדינות הבודדות בדרום מזרח אסיה המחזיקות במודל שפה גדול (LLM) שפותח באופן מקומי.

בזמן ההשקה בשנת 2023, מודל השפה הראשון בקנה מידה גדול של Zalo עם 7 מיליארד פרמטרים המתמקדים בווייטנאמית השיג ביצועים של 150% בהשוואה ל-GPT3.5 של OpenAI במבחן הערכת הכשירות לתואר שני במשפטים וייטנאמיים של VMLU. זמן ההכשרה ארך רק 6 חודשים, קצר בהרבה מהתוכנית המקורית שעמדה על 18 חודשים. תהליך ההכשרה המהיר הזה הפתיע את כל צוות הפיתוח ב-Zalo.

Zalo phát triển mô hình AI do người Việt làm chủ - 2 — מודל ה-LLM של Zalo דורג במקום השלישי באתגר Kahoot בהשקתו הראשונה בשנת 2023 (צילום: Zalo).

בשנת 2024, מודל 13 מיליארד הפרמטרים של Zalo יעקוף את השמות הגדולים בעולם ויחזק את מעמדו כשתי מודלי ה-LLM הווייטנאמיים המובילים שאומנו מאפס בדירוג הכשירות הווייטנאמי של VMLU לתואר ראשון במשפטים.

התוצאות מראות שרמת האימון של מודלים לשוניים גדולים אינה נחותה מזו של העולם לפיתוח מודל בינה מלאכותית של וייטנאם, במיוחד בהקשר של קשיי פיתוח ראשוניים.

מאמצים וייטנאמיים לפתח מודלים של בינה מלאכותית

נציג Zalo אמר כי הכשרת תואר שני במשפטים (LLM) דורשת 3 מרכיבים מרכזיים: ציוד הכשרה, נתונים ורמה טכנית. בעבר, בווייטנאם, עדיין היו מגבלות רבות בכל שלושת ההיבטים. באופן ספציפי, בעוד שחברות גדולות בעולם החזיקו באלפי כרטיסי מסך בעלי ביצועים גבוהים וחדישים של Nvidia, בווייטנאם, המהנדסים עדיין אינם מצוידים במלואה בתשתית השרתים הדרושה. יחד עם זאת, וייטנאם מדורגת גם בקבוצה עם משאבי נתונים גרועים יותר מאשר אנגלית או סינית. משאבי האנוש וניסיון ההכשרה של וייטנאם במשפטים מוגבלים גם בהשוואה למדינות מפותחות.

צוות Zalo באותה תקופה היה צריך לחקור ולנסות על מעבדים גרפיים אזרחיים קטנים כדי לצייד את עצמם בידע וביכולות הכשרה לתואר שני (LLM), להיות מוכנים ברגע שתשתית מחשוב גדולה תהיה זמינה.

שבבי אימון בינה מלאכותית הם נדירים, כך שלמרות ש-Zalo הזמינה 8 שרתי Nvidia DGX H100, היא אינה יכולה להחזיק בכל המכשירים בבת אחת וחייבת להמתין לכל אצווה של אספקה מהיצרן. לכן, אופטימיזציה של תשתית המחשוב הלא שלמה כדי לחסוך בזמן אימון היא גם בעיה שצוות Zalo חייב לפתור.

במקביל, מושקעת גם בנתוני הכשרה איכותיים כדי לפצות על המחסור במקורות נתונים וייטנאמיים.

Zalo phát triển mô hình AI do người Việt làm chủ - 3

"למרות שנקודת ההתחלה הייתה קשה בהשוואה לחברות גדולות בעולם, זאלו בכל זאת החליטה להצטרף למירוץ במטרה לפתח בהצלחה מודל בינה מלאכותית משלה בווייטנאם. התייעצנו עם חוקרים ומהנדסים במכוני מחקר מובילים רבים בעולם כדי לגבש אסטרטגיית פיתוח מתאימה."

"אבני הדרך הנוכחיות להצלחה הן המוטיבציה עבור מהנדסי Zalo להמשיך ולמטב את המודל כך שיהיה גדול יותר בכמות ובאיכות טובה יותר. במקביל, לנצל את הישימות כדי ליצור מוצרי בינה מלאכותית רבים ברמה עולמית עבור משתמשים וייטנאמים", שיתף ד"ר נגוין טרונג סון, מנהל המדע ב-Zalo AI.

Zalo phát triển mô hình AI do người Việt làm chủ - 4 — שרת DGX H100 שהוזמן על ידי Zalo מ-Nvidia (צילום: Zalo).

הודות להתאמה גמישה בשלבי הפיתוח המוקדמים והקשים, Zalo השיגה בהדרגה אבני דרך מוצלחות, ועברה לשליטה בטכנולוגיית הבינה המלאכותית הגלובלית כפי שהיא כיום.

נכון לעכשיו, מודל הבינה המלאכותית של זאלו מצליח לא רק מבחינת מחקר הכשרה אלא גם יישומי, ומקדם גישה וניצול ערך מטכנולוגיה חדשה ומתקדמת עבור העם הווייטנאמי.

מוקדם יותר השנה, Zalo השיקה את עוזר השאלות והתשובות של Kiki Info, המופעל כ-OA - חשבון רשמי - בפלטפורמת המסרים של Zalo. העוזר תומך בשאלות ותשובות בנושאים שונים בחיים, יצירת תוכן ובידור. על פי נתוני Zalo, לעוזר Kiki Info עד מיליון משתמשים ניגשו לחשבון OA ב-Zalo בפחות מחודשיים.

Zalo phát triển mô hình AI do người Việt làm chủ - 5 — מודל ה-LLM של Zalo מיושם לפיתוח Kiki Info Assistant (צילום: Zalo).

יישום נוסף של מודל ה-LLM של Zalo הוא כרטיסי בינה מלאכותית, שגם הם הגיעו לאבן הדרך של 15 מיליון כרטיסים שנוצרו ונשלחו תוך חודשיים בלבד. זוהי אפליקציה שרבים ממשתמשי Zalo מעוניינים בה לשלוח ברכות לקרובי משפחה וחברים בחגים חשובים.

נכון לעכשיו, יישומים ממודלים של שפה גדולה ממשיכים להיות מורחבים ופותחים על ידי Zalo, ומבטיחים להביא ערכים שימושיים רבים למשתמשים ביתיים.

מקור: https://dantri.com.vn/cong-nghe/zalo-phat-trien-mo-hinh-ai-do-nguoi-viet-lam-chu-20250616161352610.htm