האם צ'אטבוטים מבוססי בינה מלאכותית צורכים כמות חשמל גדולה כמו שמועות?

צ'אטבוטים מבוססי בינה מלאכותית פורחים עם מאות מיליוני משתמשים יומיומיים, אך מאחורי הנוחות הזו מסתתרת צריכת חשמל עצומה, מה שמעלה חששות לגבי קיימות.

בשנים האחרונות בלבד, צברה ChatGPT פופולריות מחודשת, עם כמעט 200 מיליון משתמשים שמגישים למעלה ממיליארד בקשות מדי יום. תגובות אלו, שנראות כאילו מעובדות "יש מאין", למעשה צורכות כמות עצומה של אנרגיה מאחורי הקלעים.

בשנת 2023, מרכזי נתונים - שבהם מאומנים ומנוהלים על ידי בינה מלאכותית - היוו 4.4% מצריכת החשמל בארה"ב. ברחבי העולם, נתון זה עמד על כ-1.5% מכלל הביקוש לחשמל. ההערכה היא שהצריכה תוכפל עד 2030 ככל שהביקוש לבינה מלאכותית ימשיך לעלות.

"רק לפני שלוש שנים, אפילו לא היה לנו את ChatGPT", אמר אלכס דה פריס-גאו, חוקר בתחום הקיימות של טכנולוגיות חדשות באוניברסיטת Vrije באמסטרדם ומייסד Digiconomist, פלטפורמה המנתחת את ההשלכות הלא מכוונות של מגמות דיגיטליות. "ועכשיו אנחנו מדברים על טכנולוגיה שיכולה להוות כמעט מחצית מהחשמל הנצרך על ידי מרכזי נתונים ברחבי העולם ."

שאילת שאלה למודל שפה גדול (LLM) צורכת בערך פי 10 יותר חשמל מחיפוש טיפוסי בגוגל. (תמונה: Qi Yang/Getty Images)

מה הופך צ'אטבוטים מבוססי בינה מלאכותית לכל כך עתירי אנרגיה? התשובה טמונה בגודלם העצום. לדברי פרופסור למדעי המחשב מושארף צ'אודורי מאוניברסיטת מישיגן, ישנם שני שלבים צמאי אנרגיה במיוחד: תהליך האימון ותהליך ההסקה.

"עם זאת, הבעיה היא שהמודלים של היום כל כך גדולים שהם לא יכולים לרוץ על כרטיס מסך יחיד, קל וחומר להתאים לשרת יחיד", הסביר פרופסור מושארף צ'אודורי ל-Live Science.

כדי להמחיש את קנה המידה, מחקר משנת 2023 של דה פריס-גאו הראה ששרת Nvidia DGX A100 יכול לצרוך עד 6.5 קילוואט חשמל. אימון מנהל תואר ראשון (LLM) דורש בדרך כלל מספר שרתים, כל אחד עם ממוצע של 8 כרטיסי מסך, הפועלים ברציפות במשך שבועות או אפילו חודשים. בסך הכל, צריכת החשמל עצומה: אימון GPT-4 של OpenAI לבדו צרכה 50 ג'יגה-וואט-שעה, שווה ערך לחשמל שיספק את כל סן פרנסיסקו במשך שלושה ימים.

תהליך האימון GPT-4 של OpenAI הספיק כדי להפעיל את כל סן פרנסיסקו במשך שלושה ימים. (תמונה: Jaap Arriens/NurPhoto/Rex/Shutterstock)

תהליך ההסקה הוא גם די עתיר אנרגיה. זהו הזמן שבו הצ'אטבוט של בינה מלאכותית משתמש בידע הנלמד שלו כדי לספק תשובות למשתמש. למרות שהסקה דורשת פחות משאבי חישוב מאשר שלב האימון, היא עדיין צורכת אנרגיה רבה במיוחד עקב כמות הבקשות העצומה שנשלחות לצ'אטבוט.

נכון ליולי 2025, OpenAI מעריכה שמשתמשי ChatGPT שולחים מעל 2.5 מיליארד בקשות מדי יום. כדי להגיב באופן מיידי, המערכת חייבת לגייס שרתים רבים הפועלים בו זמנית. וזה רק ChatGPT לבדו; הוא אינו כולל פלטפורמות אחרות שהופכות גם הן לפופולריות רבה, כמו Gemini של גוגל, שצפויה להפוך בקרוב לבחירת ברירת המחדל כאשר משתמשים ניגשים לחיפוש גוגל.

"אפילו בשלב ההסקה, אי אפשר באמת לחסוך באנרגיה", ציין צ'אודורי. "הבעיה כבר אינה כמות הנתונים העצומה. המודל כבר עצום, אבל הבעיה הגדולה יותר היא מספר המשתמשים."

חוקרים כמו צ'אודורי ודה פריס-גאו מחפשים כעת דרכים למדוד בצורה מדויקת יותר את צריכת האנרגיה, ובכך למצוא פתרונות להפחתה. לדוגמה, צ'אודורי מתחזק טבלת מובילים בשם ML Energy Leaderboard, העוקבת אחר צריכת האנרגיה במסקנות של מודלים בקוד פתוח.

עם זאת, חלק ניכר מהנתונים הקשורים לפלטפורמות בינה מלאכותית מסחרית נותרים "סודיים". תאגידים גדולים כמו גוגל, מיקרוסופט ומטא שומרות על סודיותם או משחררות רק נתונים סטטיסטיים מעורפלים מאוד שאינם משקפים במדויק את ההשפעה הסביבתית. זה מקשה מאוד לקבוע כמה חשמל צורכת בינה מלאכותית בפועל, מה יהיה הביקוש בשנים הקרובות, והאם העולם יכול לעמוד בו.

אף על פי כן, משתמשים בהחלט יכולים להפעיל לחץ לשקיפות. זה לא רק עוזר לאנשים לקבל החלטות אחראיות יותר בעת שימוש בבינה מלאכותית, אלא גם תורם לקידום מדיניות המחייבת עסקים את עצמם.

"אחת הבעיות המרכזיות עם יישומים דיגיטליים היא שההשפעה הסביבתית שלהם תמיד מוסתרת", הדגישה החוקרת דה פריס-גאו. "כעת הכדור בידי קובעי המדיניות: עליהם לעודד שקיפות נתונים כדי שמשתמשים יוכלו לנקוט פעולה".

נגוק נגוין (מדעי החיים)

מקור: https://vtcnews.vn/chatbot-ai-co-ngon-dien-nhu-loi-don-ar965919.html