בשנים האחרונות בלבד, צברה ChatGPT פופולריות מחודשת, עם כמעט 200 מיליון משתמשים שמגישים יותר ממיליארד בקשות ביום. תגובות אלו, שנראות כאילו "יש מאין", למעשה צורכות כמות עצומה של אנרגיה מאחורי הקלעים.
עד שנת 2023, מרכזי נתונים - שבהם מאומנים ומנוהלים בינה מלאכותית - יהוו 4.4% מצריכת החשמל בארה"ב. ברחבי העולם, נתון זה עומד על כ-1.5% מכלל הביקוש לחשמל. עד שנת 2030, הצריכה צפויה להכפיל את עצמה ככל שהביקוש לבינה מלאכותית ימשיך לעלות.
"רק לפני שלוש שנים, אפילו לא היה לנו את ChatGPT", אמר אלכס דה פריס-גאו, חוקר בתחום הקיימות של טכנולוגיות חדשות באוניברסיטת Vrije באמסטרדם ומייסד Digiconomist, פלטפורמה המנתחת את ההשלכות הלא מכוונות של מגמות דיגיטליות. "ועכשיו אנחנו מדברים על טכנולוגיה שיכולה להוות כמעט מחצית מהחשמל הנצרך על ידי מרכזי נתונים ברחבי העולם ."
שאילת שאלה למודל שפה גדול (LLM) צורכת בערך פי 10 יותר חשמל מחיפוש טיפוסי בגוגל. (צילום: Qi Yang/Getty Images)
מה הופך צ'אטבוטים מבוססי בינה מלאכותית לכל כך צמאי כוח? התשובה טמונה בגודלם העצום. לדברי פרופסור למדעי המחשב מאוניברסיטת מישיגן, מושארף צ'אודורי, ישנם שני שלבים "צמאי כוח" במיוחד: אימון והסקה.
"עם זאת, הבעיה היא שהמודלים של היום כל כך גדולים שהם לא יכולים לרוץ על כרטיס מסך יחיד, קל וחומר להתאים לשרת יחיד", הסביר פרופסור מושארף צ'אודורי ל-Live Science.
כדי לתת לכם מושג לגבי קנה המידה, מחקר של דה פריס-גאו משנת 2023 מצא ששרת Nvidia DGX A100 יחיד יכול לצרוך עד 6.5 קילוואט של חשמל. אימון LLM דורש בדרך כלל מספר שרתים, כל אחד עם בממוצע שמונה כרטיסי מסך, הפועלים ברציפות במשך שבועות או אפילו חודשים. צריכת החשמל הכוללת היא עצומה: אימון ה-GPT-4 של OpenAI לבדו צרכה 50 גיגה-וואט-שעה, מספיק כדי להפעיל את כל סן פרנסיסקו במשך שלושה ימים.
תהליך האימון GPT-4 של OpenAI הספיק כדי להפעיל את כל סן פרנסיסקו במשך שלושה ימים. (תמונה: Jaap Arriens/NurPhoto/Rex/Shutterstock)
שלב ההסקה גם הוא עתיר אנרגיה. זה המקום שבו הצ'אטבוט של בינה מלאכותית משתמש במה שלמד כדי להגיע לתשובה עבור המשתמש. למרות שהסקה דורשת פחות משאבי מחשוב מאשר שלב האימון, היא עדיין צורכת אנרגיה רבה במיוחד עקב מספר הבקשות הרב שנשלחות לצ'אטבוט.
נכון ליולי 2025, OpenAI טוענת שמשתמשי ChatGPT שולחים יותר מ-2.5 מיליארד בקשות ביום. כדי להגיב באופן מיידי, המערכת חייבת לגייס מספר שרתים כדי לפעול בו זמנית. וזה רק ChatGPT, שלא לדבר על פלטפורמות פופולריות אחרות, כמו Gemini של גוגל, שצפויה להפוך בקרוב לבחירת ברירת המחדל כאשר משתמשים ניגשים לחיפוש גוגל.
"אפילו בשלב ההסקה, אי אפשר באמת לחסוך באנרגיה", אמר צ'אודורי. "זה כבר לא עניין של גודל הנתונים. המודל עצום, אבל מה שגדול יותר הוא מספר המשתמשים".
חוקרים כמו צ'אודורי ודה פריס-גאו מחפשים כעת דרכים למדוד בצורה מדויקת יותר את צריכת החשמל ולמצוא דרכים לצמצמה. לדוגמה, צ'אודורי מתחזק דירוג בשם ML Energy Leaderboard, העוקב אחר צריכת האנרגיה של מודלים בקוד פתוח.
עם זאת, רוב הנתונים הקשורים לפלטפורמות בינה מלאכותית גנרטיביות מסחריות נותרים "סודיים". תאגידים גדולים כמו גוגל, מיקרוסופט או מטא שומרות עליהם בסוד או מפרסמות רק נתונים סטטיסטיים מעורפלים מאוד שאינם משקפים את ההשפעה הסביבתית האמיתית. זה מקשה מאוד לקבוע כמה חשמל צורכת בינה מלאכותית בפועל, מה יהיה הביקוש בשנים הקרובות, והאם העולם יכול לעמוד בו.
עם זאת, משתמשים בהחלט יכולים ללחוץ על שקיפות, מה שלא רק עוזר לאנשים לקבל החלטות אחראיות יותר בעת שימוש בבינה מלאכותית, אלא גם מסייע לקדם מדיניות שמחייבת עסקים לתת דין וחשבון.
"אחת הבעיות המרכזיות עם יישומים דיגיטליים היא שההשפעה הסביבתית שלהם לרוב מוסתרת", אמר החוקר דה פריס-גאו. "כעת הכדור נמצא בידי קובעי המדיניות: עליהם לעודד גילוי נתונים כדי שמשתמשים יוכלו לנקוט פעולה".
נגוק נגוין (מדעי החיים)
מקור: https://vtcnews.vn/chatbot-ai-co-ngon-dien-nhu-loi-don-ar965919.html
תגובה (0)