Jsou chatboti s umělou inteligencí tak „hladoví po energii“, jak se říká?

Jen v posledních několika letech explodoval ChatGPT na popularitě, přičemž téměř 200 milionů uživatelů zadává více než miliardu požadavků denně. Tyto zdánlivě „nečekané“ odpovědi ve skutečnosti spotřebovávají obrovské množství energie v zákulisí.

Do roku 2023 budou datová centra – kde se bude umělá inteligence školit a provozovat – tvořit 4,4 % spotřeby elektřiny v USA. Celosvětově se toto číslo pohybuje kolem 1,5 % celkové poptávky po elektřině. Do roku 2030 se očekává, že spotřeba se zdvojnásobí, protože poptávka po umělé inteligenci bude i nadále růst.

„Ještě před třemi lety jsme ani neměli ChatGPT,“ řekl Alex de Vries-Gao, výzkumník udržitelnosti nových technologií na Vrije Universiteit Amsterdam a zakladatel Digiconomist, platformy, která analyzuje nezamýšlené důsledky digitálních trendů. „A teď mluvíme o technologii, která by mohla představovat téměř polovinu elektřiny spotřebované datovými centry po celém světě .“

Položení otázky modelu velkého jazyka (LLM) spotřebuje přibližně 10krát více elektřiny než typické vyhledávání na Googlu. (Foto: Qi Yang/Getty Images)

Co dělá chatboty s umělou inteligencí tak energeticky náročnými? Odpověď spočívá v jejich samotném rozsahu. Podle profesora informatiky na Michiganské univerzitě Mosharrafa Chowdhuryho existují dvě obzvláště „energeticky náročné“ fáze: trénování a inference.

„Problém je však v tom, že dnešní modely jsou tak velké, že nemohou běžet na jediné grafické kartě, natož aby se vešly na jeden server,“ vysvětlil profesor Mosharraf Chowdhury serveru Live Science.

Pro představu o rozsahu, studie de Vries-Gao z roku 2023 zjistila, že jeden server Nvidia DGX A100 může spotřebovat až 6,5 kilowattů energie. Trénování LLM obvykle vyžaduje více serverů, každý s průměrně osmi GPU, které běží nepřetržitě týdny nebo dokonce měsíce. Celková spotřeba energie je enormní: Samotné trénování GPT-4 OpenAI spotřebovalo 50 gigawatthodin, což by stačilo k napájení celého San Francisca po dobu tří dnů.

Tréninkový proces GPT-4 od OpenAI stačil k napájení celého San Francisca po dobu tří dnů. (Obrázek: Jaap Arriens/NurPhoto/Rex/Shutterstock)

Fáze inference je také velmi energeticky náročná. Právě zde chatbot s umělou inteligencí využívá to, co se naučil, k vytvoření odpovědi pro uživatele. Ačkoli inference vyžaduje méně výpočetních zdrojů než trénovací fáze, je stále extrémně energeticky náročná kvůli velkému počtu požadavků odesílaných chatbotovi.

OpenAI uvádí, že k červenci 2025 uživatelé ChatGPT odesílají více než 2,5 miliardy požadavků denně. Aby systém mohl okamžitě reagovat, musí mobilizovat více serverů, aby fungovaly současně. A to je jen ChatGPT, nemluvě o dalších populárních platformách, jako je Gemini od Googlu, u které se očekává, že se brzy stane výchozí volbou pro přístup uživatelů k Vyhledávání Google.

„Ani ve fázi inference se nedá skutečně šetřit energií,“ řekl Chowdhury. „Už nejde o velikost dat. Model je obrovský, ale co je větší, je počet uživatelů.“

Výzkumníci jako Chowdhury a de Vries-Gao nyní hledají způsoby, jak přesněji měřit spotřebu energie a najít způsoby, jak ji snížit. Chowdhury například vede žebříček s názvem ML Energy Leaderboard, který sleduje spotřebu energie odvozenou z modelů s otevřeným zdrojovým kódem.

Většina dat týkajících se komerčních platforem generativní umělé inteligence však zůstává „tajná“. Velké korporace jako Google, Microsoft nebo Meta je buď drží v tajnosti, nebo zveřejňují pouze velmi vágní statistiky, které neodrážejí skutečný dopad na životní prostředí. To velmi ztěžuje určení, kolik elektřiny umělá inteligence skutečně spotřebovává, jaká bude poptávka v nadcházejících letech a zda ji svět dokáže uspokojit.

Uživatelé však mohou jistě prosazovat transparentnost, která nejen pomáhá jednotlivcům činit zodpovědnější rozhodnutí při používání umělé inteligence, ale také pomáhá prosazovat politiky, které vedou podniky k odpovědnosti.

„Jedním z hlavních problémů digitálních aplikací je, že jejich dopad na životní prostředí je často skrytý,“ uvedl výzkumník de Vries-Gao. „Nyní je na řadě politika: musí podporovat zveřejňování dat, aby uživatelé mohli jednat.“

Ngoc Nguyen (Live Science)

Zdroj: https://vtcnews.vn/chatbot-ai-co-ngon-dien-nhu-loi-don-ar965919.html