Spotřebovávají chatboti s umělou inteligencí tolik elektřiny, jak se říká?

Jen v posledních několika letech explodoval ChatGPT na popularitě, přičemž téměř 200 milionů uživatelů denně zadává přes miliardu požadavků. Tyto odpovědi, zdánlivě zpracované „z ničeho nic“, ve skutečnosti spotřebovávají v zákulisí obrovské množství energie.

V roce 2023 se datová centra – kde se umělá inteligence učí a provozuje – podílela na spotřebě elektřiny v USA 4,4 %. Celosvětově se toto číslo pohybovalo kolem 1,5 % celkové poptávky po elektřině. Předpokládá se, že spotřeba se do roku 2030 zdvojnásobí, protože poptávka po umělé inteligenci nadále roste.

„Ještě před třemi lety jsme ani neměli ChatGPT,“ řekl Alex de Vries-Gao, výzkumník udržitelnosti nových technologií na Vrije University Amsterdam a zakladatel Digiconomist, platformy, která analyzuje nezamýšlené důsledky digitálních trendů. „A teď mluvíme o technologii, která by potenciálně mohla představovat téměř polovinu elektřiny spotřebované datovými centry po celém světě .“

Položení otázky modelu velkého jazyka (LLM) spotřebuje přibližně 10krát více elektřiny než typické vyhledávání na Googlu. (Obrázek: Qi Yang/Getty Images)

Co dělá chatboty s umělou inteligencí tak energeticky náročnými? Odpověď spočívá v jejich obrovském rozsahu. Podle profesora informatiky Mosharafa Chowdhuryho z Michiganské univerzity existují dvě fáze obzvláště energeticky náročné: proces trénování a proces inference.

„Problém je však v tom, že dnešní modely jsou tak velké, že nemohou běžet na jediné grafické kartě, natož aby se vešly na jediný server,“ vysvětlil pro Live Science profesor Mosharaf Chowdhury.

Pro ilustraci rozsahu studie de Vries-Gao z roku 2023 ukázala, že server Nvidia DGX A100 může spotřebovat až 6,5 kilowattů elektřiny. Trénování LLM obvykle vyžaduje více serverů, každý s průměrně 8 GPU, které běží nepřetržitě týdny nebo dokonce měsíce. Celková spotřeba elektřiny je enormní: samotné trénování GPT-4 v OpenAI spotřebovalo 50 gigawatthodin, což odpovídá množství elektřiny dostatečnému k napájení celého San Francisca po dobu tří dnů.

Tréninkový proces GPT-4 od OpenAI stačil k napájení celého San Francisca po dobu tří dnů. (Obrázek: Jaap Arriens/NurPhoto/Rex/Shutterstock)

Proces inference je také poměrně energeticky náročný. V tomto procesu chatbot s umělou inteligencí využívá své naučené znalosti k poskytování odpovědí uživateli. Ačkoli inference vyžaduje méně výpočetních zdrojů než fáze trénování, je stále extrémně energeticky náročná kvůli obrovskému objemu požadavků odesílaných chatbotovi.

OpenAI odhaduje, že k červenci 2025 uživatelé ChatGPT odesílají denně přes 2,5 miliardy požadavků. Aby systém mohl okamžitě reagovat, musí mobilizovat mnoho serverů pracujících současně. A to je jen ChatGPT; nezahrnuje další platformy, které se také stávají velmi populárními, jako je například Gemini od Googlu, u kterého se očekává, že se brzy stane výchozí volbou, když uživatelé přistupují k Vyhledávání Google.

„Ani ve fázi inference se nedá skutečně šetřit energií,“ poznamenal Chowdhury. „Problém už není v obrovském množství dat. Model už je obrovský, ale větším problémem je počet uživatelů.“

Výzkumníci jako Chowdhury a de Vries-Gao nyní hledají způsoby, jak přesněji měřit spotřebu energie, a tím nacházet řešení, jak ji snížit. Chowdhury například vede žebříček s názvem ML Energy Leaderboard, který sleduje spotřebu energie v inferencích modelů s otevřeným zdrojovým kódem.

Velká část dat týkajících se komerčně životaschopných platforem umělé inteligence však zůstává „tajná“. Velké korporace jako Google, Microsoft a Meta je buď uchovávají v tajnosti, nebo zveřejňují pouze velmi vágní statistiky, které přesně neodrážejí dopad na životní prostředí. To velmi ztěžuje určení, kolik elektřiny umělá inteligence skutečně spotřebovává, jaká bude poptávka v nadcházejících letech a zda ji svět dokáže uspokojit.

Uživatelé nicméně mohou jistě vyvíjet tlak na transparentnost. To nejen pomáhá jednotlivcům činit zodpovědnější rozhodnutí při používání umělé inteligence, ale také přispívá k prosazování politik, které volají podniky k odpovědnosti.

„Jedním z hlavních problémů digitálních aplikací je, že jejich dopad na životní prostředí je vždy skrytý,“ zdůraznil výzkumník de Vries-Gao. „Nyní je míč v rukou tvůrců politik: musí podporovat transparentnost dat, aby uživatelé mohli jednat.“

Ngoc Nguyen (Live Science)

Zdroj: https://vtcnews.vn/chatbot-ai-co-ngon-dien-nhu-loi-don-ar965919.html