האם הבינה המלאכותית של הרוקח טיין באמת 'טובה יותר מצ'אטGPT'?

מר פאם מין הו טיין הכריז כי לצ'אטבוט מבוסס בינה מלאכותית יש פרמטרים טובים יותר מאשר בצ'אטGPT. עם זאת, רבים מהנתונים שסופקו עדיין מעורפלים ולא הגיוניים.

הרוקח טיין (פאם מין הוא טיין) השיק בינה מלאכותית בשם ChatDST. צילום: DST .

ב-14 ביולי, פרסם חברת הרוקח טיין סרטון המציג רבים ממוצרי החברה ברשתות החברתיות. ביניהם, צ'אטבוט מבוסס בינה מלאכותית בשם ChatDST משך תשומת לב עם הצהרתו של המנחה שהוא "טוב יותר מ-ChatGPT".

מידע זה עורר מחלוקת משום שמר טיין והארגון שעמד מאחוריו עבדו בתעשיות הקוסמטיקה והבידור ולא הייתה להם מומחיות בטכנולוגיה. בינתיים, ChatGPT של OpenAI, שהושקעו בו מאות מיליארדי דולרים ופותחו במשך שנים רבות, עדיין נחשב למוצר מוביל בשוק בהיבטים רבים.

הצהרת הרוקח טיין

"כמעט כל הפרמטרים של טיין עולים על הבינה המלאכותית שאתם משתמשים בה כרגע. טיין יגלה לכם שהפרמטר הזה די גבוה בשוק", הצהיר פאם מין הואו ​​טיין (הרוקח טיין) בהשקה.

פרמטרים של צ'אטבוט ChatDST ניתנו על ידי הרוקח טיין. צילום: פאם מין הוו טיין.

הדוגמה שהאדם הזה השתמש בה להשוואה הייתה קיבולת ה-VRAM. פאם מין הוו טיין טען שלמערכת שבנו היה זיכרון כפול מזה של ChatGPT (960 ג'יגה-בייט לעומת 480 ג'יגה-בייט). "בנוסף, יש לה גם את האישיות שלך, טעונה בנתונים בתעשיית הכימיקלים והקוסמטיקה, מה שיהיה מועיל מאוד לאנשים שעובדים בתחום הזה", אמר מר טיין.

בנוסף, הפרמטרים במסך המצגת מראים גם כי פלטפורמה זו יכולה לייצר 2,000 טוקנים לשנייה, הארכיטקטורה משלבת 6 מודלים של בינה מלאכותית כדי להגביר את הביצועים. ChatDST מתחייב לפעולה יציבה במשך 99.95% מהזמן, ומעבד הקשרים של עד מיליון טוקנים.

בפרט, המציג ציין גם שלצ'אטבוט הזה יש זיכרון בלתי מוגבל לכל סשן. הרוקח טיין הודיע ​​כי פתרון זה יושק באוקטובר, המשתמשים יצטרכו לשלם עבור השימוש בו, במחיר של 20-300 דולר . עם זאת, סרטון אירוע ההשקה נעלם כעת מיוטיוב.

פרמטרים חריגים

נכון לעכשיו, הפרויקט עליו הכריזה חברת Pharmacist Tien עדיין "על הנייר", ללא גרסת ניסיון או דוחות מפורטים על קוד המקור או התפעול. המידע הנוכחי כולל רק פרמטרים בסיסיים, יחד עם ההצהרה של-ChatDST יש תצורה גבוהה יותר מזו של ChatGPT, בין הטובים ביותר בשוק.

עם זאת, מידע זה גם מעורפל, חלק ניכר ממנו אבסורדי ובלתי אפשרי.

בשיחה עם טרי ת'וק - ZNews , אמר מר נ.ב., תואר שני בטכנולוגיית מידע ומפתח מוצרי בינה מלאכותית, כי יש מידע שגוי בהצהרה של הרוקח טיין.

מפעל הבינה המלאכותית של OpenAI, שעלותו 40 מיליארד דולר, נבנה בטקסס, ארה"ב. צילום: Data Center Dynamic.

לדוגמה, מר טיין אמר ש-ChatDST פותח על פלטפורמת Llama עם 403 מיליארד "נוירונים". למעשה, מודלים גדולים של שפה משתמשים בפרמטרים כדי לדבר על תחומי נתונים במקום על "נוירונים". במקביל, Llama פותח על ידי Meta, ששחררה קוד קוד פתוח, והייתה לה רק גרסה של 405 מיליארד פרמטרים, לא גרסה של 403 מיליארד.

מצד שני, אין מקור המראה ש-OpenAI משתמש בשרת עם 480 ג'יגה-בייט של זיכרון כפי שהכריז פאם מין הו טיין. על פי הפרמטרים שניתנו על ידי Pharmacist Tien, ChatDST פועל על פלטפורמה של 12 כרטיסי מסך מסוג Nvidia A100 בנפח 80 ג'יגה-בייט, סה"כ 960 ג'יגה-בייט של זיכרון VRAM. מחיר השוק של כל אחד מכרטיסי המסך הללו הוא כ-700 מיליון דונג וייט, שווה ערך להשקעה של 8.4 מיליארד דונג וייט עבור רכיב זה.

בינתיים, מקור ב- The Informatio n אמר כי OpenAI מחזיקה במרכז נתונים המכיל כ-350,000 כרטיסי A100 לצורך הסקה. ChatGPT לבדה משתמשת ב-290,000 כרטיסי מסך, פי 24,167 מהתצורה שהוכרזה על ידי Pharmacist Tien. בנוסף, חברה זו גם שוכרת את שרת Azure של מיקרוסופט כדי להפחית את העומס כאשר מספר המשתמשים גדל.

ההערכה היא ש-OpenAI צריכה לשלם כ -100,000 דולר ( 2.6 מיליארד דונג וייטנאמי ) עבור כל יום פעילות. לפיכך, עלות התפעול של החברה במשך 4 ימים גבוהה מסכום הכסף עבור תצורת 12 שבבי A100 בהם השתמש הרוקח טיין ב-ChatDST.

ה-Llama 405B דורש לפחות 810 ג'יגה-בייט של זיכרון VRAM כדי לאחסן את הדגם העובד. תמונה: HuggingFace.

לפי HuggingFace , 405 מיליארד פרמטרים של Llama דורשים לפחות 810 ג'יגה-בייט לאחסון. לפיכך, לשרת של מר טיין יש רק 150 ג'יגה-בייט פנויים לשרת חישובים כאשר משתמשים משוחחים בצ'אט. כמות זו של VRAM מספיקה ל-1-3 לקוחות לשוחח בו זמנית. אפילו כאשר מפחיתים את דיוק המודל כדי להפחית את צריכת המשאבים, מספר המשתמשים המשרתים 3-9 חשבונות בו זמנית יורד.

מהירות העיבוד של ChatDST, העומדת על 2,000 טוקנים/שנייה, היא גם פרמטר "בלתי נתפס" בתעשייה. נכון לעכשיו, ChatGPT מייצרת רק 50-100 טוקנים/שנייה, תלוי בדגם, ומעמיסה על המערכת. קלוד גם כן עומד ב-40-80 טוקנים/שנייה בלבד.

מקור: https://znews.vn/ai-cua-duoc-si-tien-co-thuc-su-hon-chatgpt-post1569417.html