De paradox van Elon Musks AI-supercomputer

Elon Musk wil een "gigantische computerfabriek" voor xAI bouwen in Memphis. Ondanks dat er al meer dan 400 miljoen dollar aan de bouw is uitgegeven, loopt het project echter tegen problemen aan door een gebrek aan elektriciteit en water.

Elon Musk heeft aangekondigd dat zijn startup voor kunstmatige intelligentie, xAI, de grootste supercomputer ter wereld bouwt in Memphis, Tennessee. Volgens Business Insider investeert het bedrijf honderden miljoenen dollars in dit project.

De totale projectkosten worden geschat op 405,9 miljoen dollar . De paradox schuilt echter in het feit dat uit de documenten ook blijkt dat xAI niet genoeg elektriciteit van het lokale net zal kunnen afnemen om de geplande 1 miljoen GPU's in Memphis van stroom te voorzien.

Vereist een enorme hoeveelheid elektriciteit.

Musk, die in 2024 12 miljard dollar aan investeringskapitaal heeft opgehaald voor xAI, zei dat deze "enorme computerfabriek" 200.000 Nvidia GPU's omvat. De helft daarvan werd in slechts 122 dagen geïnstalleerd en het uiteindelijke doel is om uit te breiden naar 1 miljoen GPU's.

Tot nu toe heeft xAI 300 MW aan netstroom aangevraagd bij Memphis Light, Gas and Water (MLGW). De AI-startup heeft echter slechts goedkeuring gekregen voor 150 MW.

Het lokale elektriciteitsnet in Memphis kan mogelijk niet genoeg stroom leveren voor een project van de omvang van xAI. Foto: Protect the Aquifer.

In haar aanvragen voor aardgasturbines op locatie verklaarde het bedrijf dat de toegang tot de volledige 300 MW aan netvermogen afhankelijk zou zijn van "aanzienlijke infrastructuurverbeteringen" en betere transmissielijnen in de regio.

Om dit probleem aan te pakken, heeft xAI zijn stroomvoorziening aangevuld met gasgestookte generatoren van Solar Turbines, een dochteronderneming van Caterpillar. Deze genereren een totaal vermogen van 250 MW.

xAI kan echter niet aan de vraag van de klant voldoen "zonder extra stroomopwekking op locatie", zo verklaarde het bedrijf in een vergunningsaanvraag.

Niet alleen xAI, maar ook andere datacenters en batterijfabrikanten breiden uit in de regio. TVA, het bedrijf dat elektriciteit levert aan een groot deel van Tennessee en delen van zes aangrenzende staten, zei in februari dat het van plan is de komende jaren 16 miljard dollar te investeren om aan de historische vraagtoename in de regio te voldoen.

In dezelfde verklaring zei een woordvoerder van TVA dat het bestuur alle nieuwe belastingen van meer dan 100 MW zou moeten beoordelen en goedkeuren om ervoor te zorgen dat "de betrouwbaarheid van het elektriciteitsnet gewaarborgd blijft".

Met zijn huidige capaciteit kan xAI slechts 200.000 Nvidia H100 GPU's aansturen. Het toevoegen van meer rekenkracht zou moeilijk zijn, aldus Shaolei Ren, hoogleraar elektrotechniek en computerwetenschappen aan de Universiteit van Californië, Riverside.

"Het is nog steeds mogelijk, maar dat zou betekenen dat er een sterke overinschrijvingsstrategie wordt toegepast," aldus Ren.

Volgens de berekeningen van Ren zouden een miljoen GPU's meer dan 1 GW aan elektriciteit nodig hebben om te functioneren, oftewel vier keer zoveel elektriciteit als waar xAI momenteel in Memphis over beschikt.

"Mensen zijn misschien enthousiast over de kansen die voor ons liggen, maar er zijn realiteiten die we moeten accepteren," zei MLGW-CEO Doug McGowen tijdens een vergadering van de gemeenteraad van Memphis.

De hardware kost miljarden dollars.

Niet alleen zal de vraag naar elektriciteit toenemen, maar ook de hardwarekosten zullen waarschijnlijk stijgen. Musk verklaarde eerder dat Colossus, de naam van het project, is uitgerust met een mix van 100.000 Nvidia H100-chips en 50.000 Nvidia H200-chips.

TRG Datacenters schat dat de H100-chip tussen de $27.000 en $40.000 per stuk kost, terwijl de H200-chip $32.000 per stuk kost. Dit betekent dat de hardware voor de locaties in Memphis momenteel meer dan $4,3 miljard zou kunnen kosten, en $27 miljard voor 1 miljoen GPU's met de goedkopere H100-chip.

Een voormalige Electrolux-fabriek in Memphis wordt omgebouwd tot een gebouw dat onderdak biedt aan de enorme supercomputer van xAI. Foto: Bloomberg.

Naar verwachting zal Colossus Memphis transformeren tot een centrum van geavanceerde technologie. De aantrekkingskracht van het volgende tijdperk van supercomputers ligt in de uitzonderlijke verwerkingssnelheid.

De volgende generatie dataprocessors zal de eigenschappen van de kwantumfysica benutten om een ​​sprong voorwaarts te maken in probleemoplossende mogelijkheden, een cruciaal element voor het uitvoeren van complexe AI-programma's. Elon Musks project voor een "mega-computerfabriek" in Memphis vordert in een ongelooflijk tempo en streeft naar volledige operationele status eind 2025.

Het hoge tempo van het project heeft echter bezorgdheid gewekt bij inwoners, gemeenteraadsleden en milieuactivisten over de mogelijke gevolgen ervan. Het gebrek aan transparantie en het ontbreken van overleg met de gemeenschap hebben geleid tot frustratie en het gevoel in de steek gelaten te worden.

Hoewel xAI begin juni 2024 plannen aankondigde om een ​​supercomputer te bouwen in de buurt van de woonwijk Boxtown en begon met de renovatie van de verlaten Electrolux-fabriek, blijven details over het project schaars.

De omvang van het elektriciteitsverbruik van een supercomputercentrum zoals xAI vereist goedkeuring van de Tennessee Valley Authority, die het elektriciteitsnet voor een groot deel van de regio beheert. Foto: New York Times.

Een van de grootste problemen is het enorme energie- en waterverbruik van de supercomputer. Naar schatting zal de installatie ongeveer 3,7 miljoen liter water en 150 MW elektriciteit per dag nodig hebben.

Dit vormt een aanzienlijke uitdaging voor het lokale elektriciteitsnet, dat de afgelopen jaren al te kampen heeft gehad met overbelasting en stroomuitval. Ook het grondwater van Memphis, een waardevolle bron van schoon water, loopt het risico overmatig te worden benut.

Om mogelijke negatieve gevolgen te minimaliseren, promoten lokale overheden en milieuorganisaties actief xAI om duurzame oplossingen te implementeren.

De voorstellen omvatten de bouw van een ultramoderne afvalwaterzuiveringsinstallatie en de aanleg van een grootschalig batterijopslagsysteem. Deze inspanningen zouden niet alleen bijdragen aan een stabiele water- en elektriciteitsvoorziening voor de supercomputer, maar ook aan de algemene duurzame ontwikkelingsdoelstellingen van de stad.

Bron: https://znews.vn/nghich-ly-sieu-may-tinh-ai-cua-elon-musk-post1543685.html