Elon Musks AI-superdatorparadox

Elon Musk vill bygga en "gigantisk datorfabrik" för xAI i Memphis. Trots att man spenderat över 400 miljoner dollar på byggnation har projektet dock svårigheter på grund av brist på el och vatten.

Elon Musk meddelade att hans artificiella intelligens-startup xAI bygger världens största superdator i Memphis, Tennessee. Enligt Business Insider investerar företaget hundratals miljoner dollar i projektet.

Den totala projektkostnaden uppskattas till 405,9 miljoner dollar . Paradoxen ligger dock i att dokumenten också visar att xAI inte kommer att kunna dra tillräckligt med el från det lokala elnätet för att driva 1 miljon GPU:er i Memphis som planerat.

Kräver en enorm mängd elektricitet.

Musk, som samlade in 12 miljarder dollar i investeringskapital för xAI under 2024, sa att denna "massiva datorfabrik" inkluderar 200 000 Nvidia GPU:er. Hälften av dessa installerades på bara 122 dagar, och det slutgiltiga målet är att expandera till 1 miljon GPU:er.

Hittills har xAI begärt 300 MW el från Memphis Light, Gas and Water (MLGW). AI-startupen har dock endast godkänts för 150 MW.

Det lokala elnätet i Memphis kanske inte kan leverera tillräckligt med el för ett projekt av xAI:s storlek. Foto: Skydda akvifären.

I sina ansökningar om naturgasturbiner på plats uppgav företaget att tillgången till hela 300 MW elnätskapacitet skulle bero på "betydande infrastrukturuppgraderingar" och förbättrade överföringsledningar i regionen.

För att åtgärda detta kompletterade xAI sin strömförsörjning med gasdrivna generatorer från Caterpillars dotterbolag, Solar Turbines. Dessa genererar totalt 250 MW.

xAI kan dock inte möta kundernas efterfrågan "utan ytterligare kraftproduktion på plats", enligt vad företaget uppgav i en tillståndsansökan.

Inte bara xAI, utan även andra datacenter och batteritillverkare expanderar i regionen. TVA, företaget som levererar el till stora delar av Tennessee och delar av sex grannstater, meddelade i februari att de planerar att spendera 16 miljarder dollar under de närmaste åren för att möta den historiska efterfrågetillväxten i sin region.

I samma uttalande sa en talesperson för TVA att styrelsen skulle behöva granska och godkänna alla nya belastningar som överstiger 100 MW för att säkerställa att "kraftsystemets tillförlitlighet kan upprätthållas".

Med sin nuvarande kapacitet kan xAI bara driva 200 000 Nvidia H100-grafikprocessorer. Att lägga till mer datorkraft skulle vara svårt, enligt Shaolei Ren, professor i elektroteknik och datateknik vid University of California, Riverside.

"Det är fortfarande möjligt, men det skulle innebära att en stark överteckningsstrategi används", sa Ren.

Enligt Rens beräkningar skulle en miljon GPU:er kunna kräva mer än 1 GW el för att fungera, eller fyra gånger den mängd el som xAI för närvarande har tillgång till i Memphis.

"Folk kanske är entusiastiska över möjligheterna som ligger framför oss, men det finns realiteter vi måste acceptera", sa MLGW:s VD Doug McGowen vid ett möte i Memphis kommunfullmäktige.

Hårdvaran kostar miljarder dollar.

Inte bara kommer efterfrågan på el att öka, utan även hårdvarukostnaderna kommer sannolikt att stiga. Tidigare uppgav Musk att Colossus, projektets namn, är utrustat med en blandning av 100 000 Nvidia H100-chip och 50 000 Nvidia H200-chip.

TRG Datacenters uppskattar att H100-chippet kostar mellan 27 000 och 40 000 dollar per enhet, medan H200-chippet kostar 32 000 dollar per enhet. Det betyder att hårdvara för Memphis-anläggningarna kan kosta över 4,3 miljarder dollar för närvarande, och 27 miljarder dollar för 1 miljon grafikkort med det billigare H100-chippet.

En tidigare Electrolux-anläggning i Memphis håller på att omvandlas till xAI:s massiva superdator. Foto: Bloomberg.

Colossus förväntas förvandla Memphis till ett centrum för avancerad teknologi. Attraktionen med nästa era av superdatorer ligger i dess exceptionella processorhastighet.

Nästa generations dataprocessorer kommer att utnyttja kvantfysikens egenskaper för att ge ett språng framåt inom problemlösningsförmåga, en nyckelfaktor i att köra komplexa AI-program. Elon Musks projekt "megadatorfabrik" i Memphis fortskrider i en otrolig takt och siktar på full drift i slutet av 2025.

Denna snabba takt har dock väckt oro bland invånare, kommunfullmäktigeledamöter och miljöaktivister om projektets potentiella effekter. Bristen på transparens och avsaknaden av samrådsmöten med lokalsamhället har orsakat frustration och en känsla av att bli lämnad utanför.

Även om xAI tillkännagav planer på att bygga en superdator nära bostadsområdet Boxtown i början av juni 2024 och började renovera den övergivna Electrolux-fabriken, är detaljerna om projektet fortfarande begränsade.

Omfattningen av elförbrukningen från ett superdatorcenter som xAI kräver godkännande från Tennessee Valley Authority, som driver elnätet för en stor del av regionen. Foto: New York Times.

Ett av de största problemen är superdatorns enorma energi- och vattenförbrukning. Det uppskattas att anläggningen kommer att behöva cirka 3,7 miljoner liter vatten och 150 MW el per dag.

Detta innebär betydande utmaningar för det lokala elnätet, som redan har drabbats av överbelastning och strömavbrott de senaste åren. Memphis grundvatten, en värdefull källa till rent vatten, riskerar också att överutnyttjas.

För att minimera potentiella negativa effekter främjar lokala myndigheter och miljöorganisationer aktivt xAI för att implementera hållbara lösningar.

Förslagen omfattar byggandet av ett toppmodernt avloppsreningsverk och tillhandahållandet av ett storskaligt batterilagringssystem. Dessa insatser skulle inte bara bidra till att säkerställa en stabil vatten- och elförsörjning för superdatorn utan också bidra till stadens övergripande mål för hållbar utveckling.

Källa: https://znews.vn/nghich-ly-sieu-may-tinh-ai-cua-elon-musk-post1543685.html