מפרטים מדהימים מהבינה המלאכותית של הרוקח טיין ש"טובה יותר מ-ChatGPT".

מר פאם מין הו טיין הכריז כי לצ'אטבוט הבינה המלאכותית שלו יש מפרטים טובים יותר מאשר ל-ChatGPT. עם זאת, חלק ניכר מהנתונים המוצגים מעורפלים ולא הגיוניים.

הרוקח Tiến (Phạm Minh Hữu Tiến) משיק AI בשם ChatDST. צילום: DST .

ב-14 ביולי, פרסם הרוקח טיין סרטון ברשתות החברתיות ובו הציג כמה ממוצרי החברה שלו. בו, צ'אטבוט מבוסס בינה מלאכותית בשם ChatDST משך תשומת לב עם טענתו של המנחה שהוא "טוב יותר מ-ChatGPT".

מידע זה שנוי במחלוקת משום שמר טיין והארגון שעומד מאחוריו עובדים בתעשיות הקוסמטיקה והבידור, וחסרים מומחיות טכנולוגית. בינתיים, ChatGPT של OpenAI, שקיבלה מאות מיליארדי דולרים בהשקעה ושנים של פיתוח, נותרה מובילה בשוק בהיבטים רבים.

הצהרה של הרוקח טיין

"כמעט כל הפרמטרים של טיאן עולים על אלו של מערכות הבינה המלאכותית שאתם משתמשים בהן כעת. טיאן יגלה לכם שהפרמטרים הללו גבוהים למדי בהשוואה לשוק", הצהיר פאם מין הו טיאן (רוקח טיאן) באירוע ההשקה.

מפרטים של צ'אטבוט ChatDST שסופק על ידי הרוקח Tiến. צילום: Phạm Minh Hữu Tiến.

הדוגמה שאדם זה השתמש בה להשוואה הייתה קיבולת VRAM. פאם מין הוו טיין טען כי למערכת שבנו יש זיכרון כפול מזה של ChatGPT (960 ג'יגה-בייט לעומת 480 ג'יגה-בייט). "מלבד זאת, יש לה גם מאפיינים משלי, עמוסים בנתונים מתעשיות הכימיה והקוסמטיקה, שיהיו מועילים מאוד לאנשים שעובדים בתחומים אלה", אמר מר טיין.

יתר על כן, המפרטים המוצגים על מסך המצגת מראים שהפלטפורמה יכולה לייצר 2,000 טוקנים לשנייה, עם ארכיטקטורה המשלבת 6 מודלים של בינה מלאכותית כדי להגביר את הביצועים. ChatDST מבטיחה פעולה יציבה ב-99.95% מהזמן, ומעבדת עד מיליון טוקנים בהקשר.

ראוי לציין כי המנחה ציין גם כי לצ'אטבוט הזה יש זיכרון בלתי מוגבל לכל סשן. הרוקח טיין טען כי פתרון זה יושק באוקטובר, וידרוש מהמשתמשים לשלם עמלה של 20-300 דולר. עם זאת, סרטון אירוע ההשקה נעלם כעת מיוטיוב.

פרמטרים חריגים

לעת עתה, הפרויקט עליו הכריזה חברת Pharmacist Tien נותר "על הנייר", מכיוון שאין גרסת ניסיון או דוחות מפורטים על קוד המקור או הפעולה. המידע הזמין כולל רק מפרטים בסיסיים, יחד עם הטענה של-ChatDST יש תצורה גבוהה יותר מזו של ChatGPT והוא בין הטובים ביותר בשוק.

עם זאת, מידע זה גם מעורפל, ובמובנים רבים לא הגיוני ובלתי אפשרי.

בשיחה עם Tri Thức - ZNews , מר NB, תואר שני בטכנולוגיית מידע ומפתח מוצרים בתחום הבינה המלאכותית, הצהיר כי יש מידע שגוי בהצהרתו של הרוקח טיאן.

מפעל בינה מלאכותית עבור OpenAI בשווי 40 מיליארד דולר נמצא בבנייה בטקסס, ארה"ב. צילום: Data Center Dynamic.

לדוגמה, מר טיין אמר ש-ChatDST פותח על פלטפורמת Llama עם 403 מיליארד "נוירונים". במציאות, מודלים של שפת תכנות בקנה מידה גדול משתמשים ביחידות פרמטרים כדי להתייחס לתחומי נתונים במקום ל"נוירונים". יתר על כן, ל-Llama, שפותחה על ידי Meta ושוחררה כקוד פתוח, יש רק גרסה עם 405 מיליארד פרמטרים; אין גרסה עם 403 מיליארד.

מצד שני, אין מקור המצביע על כך ש-OpenAI משתמש בשרתים עם 480 ג'יגה-בייט של זיכרון כפי שטען Phạm Minh Hữu Tiến. על פי המפרט שסיפק Pharmacist Tiến, ChatDST פועל על פלטפורמה של 12 כרטיסי מסך Nvidia A100 בנפח 80 ג'יגה-בייט, בסכום כולל של 960 ג'יגה-בייט של VRAM. מחיר השוק של כל אחד מכרטיסי המסך הללו הוא כ-700 מיליון וונד, שווה ערך להשקעה של 8.4 מיליארד וונד עבור רכיב זה.

בינתיים, מקורות ב- The Information מצביעים על כך ש-OpenAI מחזיקה במרכז נתונים המכיל כ-350,000 מעבדי גרפיים מסוג A100 לעיבוד הסקות. ChatGPT לבדה משתמשת ב-290,000 מעבדי גרפיים, פי 24,167 מהתצורה שהוכרזה על ידי Pharmacist Tien. בנוסף, החברה שוכרת את שרתי Azure של מיקרוסופט כדי להפחית את העומס ככל שמספר המשתמשים גדל.

ההערכה היא ש-OpenAI צריכה לשלם כ -100,000 דולר ( 2.6 מיליארד דונג וייטנאמי ) עבור כל יום פעילות. לפיכך, עלויות התפעול עבור 4 ימים עבור חברה זו היו גבוהות מעלותם של 12 שבבי A100 בהם השתמש הרוקח טיין ב-ChatDST.

ה-Llama 405B דורש לפחות 810 ג'יגה-בייט של זיכרון VRAM כדי לאחסן את דגם ההפעלה. צילום: HuggingFace.

לפי HuggingFace , 405 מיליארד הפרמטרים של Llama דורשים לפחות 810 ג'יגה-בייט של אחסון. לכן, לשרת של מר טיין יש רק 150 ג'יגה-בייט של שטח פנוי לחישוב כאשר משתמשים משוחחים בצ'אט. כמות זו של VRAM מספיקה ל-1-3 לקוחות המשוחחים בו זמנית. גם אם דיוק המודל מצטמצם כדי לחסוך במשאבים, הוא עדיין יכול לשרת 3-9 חשבונות בו זמנית.

מהירות העיבוד של ChatDST, העומדת על 2,000 טוקנים לשנייה, היא גם נתון "בלתי ייאמן" בתעשייה. נכון לעכשיו, ChatGPT מייצרת רק 50-100 טוקנים לשנייה, תלוי בדגם, והיא עמוסה יתר על המידה. קלוד גם מטפלת רק ב-40-80 טוקנים לשנייה.

מקור: https://znews.vn/thong-so-khong-tuong-tu-ai-hon-chatgpt-cua-duoc-si-tien-post1569417.html