Elon Musks paradoks med AI-superdatamaskiner

Elon Musk ønsker å bygge en «gigantisk datafabrikk» for xAI i Memphis. Til tross for at de har brukt over 400 millioner dollar på bygging, har prosjektet imidlertid problemer på grunn av mangel på strøm og vann.

Elon Musk annonserte at hans kunstig intelligens-oppstartsselskap xAI bygger verdens største superdatamaskin i Memphis, Tennessee. Ifølge Business Insider investerer selskapet hundrevis av millioner dollar i dette prosjektet.

Den totale prosjektkostnaden er anslått til 405,9 millioner dollar . Paradokset ligger imidlertid i at dokumentene også viser at xAI ikke vil være i stand til å trekke nok strøm fra det lokale strømnettet til å drive 1 million GPU-er i Memphis som planlagt.

Krever en enorm mengde strøm.

Musk, som samlet inn 12 milliarder dollar i investeringskapital for xAI i 2024, sa at denne «massive databehandlingsfabrikken» inkluderer 200 000 Nvidia GPU-er. Halvparten av disse ble installert på bare 122 dager, og det endelige målet er å utvide til 1 million GPU-er.

Til dags dato har xAI bedt om 300 MW strøm fra nettselskapet Memphis Light, Gas and Water (MLGW). Imidlertid har AI-oppstartsselskapet bare blitt godkjent for 150 MW.

Det lokale strømnettet i Memphis kan kanskje ikke levere nok strøm til et prosjekt på størrelse med xAI. Foto: Beskytt akviferen.

I sine søknader om naturgassturbiner på stedet opplyste selskapet at tilgangen til hele 300 MW med strøm fra nettet ville avhenge av «betydelige infrastrukturoppgraderinger» og forbedrede overføringslinjer i regionen.

For å håndtere dette supplerte xAI strømforsyningen sin med gassdrevne generatorer fra Caterpillars datterselskap, Solar Turbines. Disse genererer totalt 250 MW.

xAI kan imidlertid ikke møte kundenes etterspørsel «uten ytterligere kraftproduksjon på stedet», ifølge det selskapet oppga i en søknad om tillatelse.

Ikke bare xAI, men også andre datasentre og batteriprodusenter ekspanderer i regionen. TVA, selskapet som leverer strøm til store deler av Tennessee og deler av seks nabostater, sa i februar at de planlegger å bruke 16 milliarder dollar de neste årene for å møte den historiske etterspørselsveksten i regionen.

I samme uttalelse sa en talsperson for TVA at styret måtte gjennomgå og godkjenne eventuelle nye belastninger som overstiger 100 MW for å sikre at «kraftsystemets pålitelighet kan opprettholdes».

Med sin nåværende kapasitet er xAI bare i stand til å drive 200 000 Nvidia H100 GPU-er. Å legge til mer datakraft ville være vanskelig, ifølge Shaolei Ren, professor i elektro- og datateknikk ved University of California, Riverside.

«Det er fortsatt mulig, men det ville bety at det benyttes en sterk overtegningsstrategi», sa Ren.

Ifølge Rens beregninger kan én million GPU-er kreve mer enn 1 GW strøm for å fungere, eller fire ganger mengden strøm xAI for øyeblikket har tilgang til i Memphis.

«Folk er kanskje begeistret for mulighetene som ligger foran oss, men det finnes realiteter vi må akseptere», sa MLGW-sjef Doug McGowen på et bystyremøte i Memphis.

Maskinvaren koster milliarder av dollar.

Ikke bare vil etterspørselen etter strøm øke, men maskinvarekostnadene vil sannsynligvis også stige. Tidligere uttalte Musk at Colossus, prosjektets navn, er utstyrt med en blanding av 100 000 Nvidia H100-brikker og 50 000 Nvidia H200-brikker.

TRG Datacenters anslår at H100-brikken koster mellom 27 000 og 40 000 dollar per enhet, mens H200-brikken koster 32 000 dollar per enhet. Dette betyr at maskinvare for Memphis-lokasjonene kan koste over 4,3 milliarder dollar for øyeblikket, og 27 milliarder dollar for 1 million GPU-er med den billigere H100-brikken.

Et tidligere Electrolux-anlegg i Memphis blir omgjort til å huse xAIs enorme superdatamaskin. Foto: Bloomberg.

Colossus forventes å forvandle Memphis til et sentrum for avansert teknologi. Appellasjonen til den neste æraen innen superdatabehandling ligger i den eksepsjonelle prosesseringshastigheten.

Den neste generasjonen dataprosessorer vil utnytte kvantefysikkens egenskaper for å gi et sprang fremover innen problemløsningsevner, et nøkkelelement i å kjøre komplekse AI-programmer. Elon Musks «mega-datamaskinfabrikk»-prosjekt i Memphis går i et utrolig tempo, og sikter mot full drift innen utgangen av 2025.

Dette raske tempoet har imidlertid skapt bekymring blant innbyggere, bystyremedlemmer og miljøvernere om prosjektets potensielle konsekvenser. Mangelen på åpenhet og fraværet av konsultasjonsmøter med lokalsamfunnet har skapt frustrasjon og en følelse av å bli hengende etter.

Selv om xAI annonserte planer om å bygge en superdatamaskin i nærheten av boligområdet Boxtown tidlig i juni 2024 og begynte å renovere den forlatte Electrolux-fabrikken, er detaljene om prosjektet fortsatt begrensede.

Omfanget av strømforbruket fra et superdatasenter som xAI krever godkjenning fra Tennessee Valley Authority, som driver strømnettet for store deler av regionen. Foto: New York Times.

Et av de største problemene er superdatamaskinens enorme energi- og vannforbruk. Det er anslått at anlegget vil trenge omtrent 3,7 millioner liter vann og 150 MW strøm per dag.

Dette skaper betydelige utfordringer for det lokale strømnettet, som allerede har lidd av overbelastning og strømbrudd de siste årene. Memphis' grunnvann, en verdifull kilde til rent vann, er også i faresonen for overutnyttelse.

For å minimere potensielle negative konsekvenser, fremmer lokale myndigheter og miljøorganisasjoner aktivt xAI for å implementere bærekraftige løsninger.

Forslagene omfatter bygging av et toppmoderne avløpsrenseanlegg og et storskala batterilagringssystem. Disse tiltakene vil ikke bare bidra til å sikre en stabil vann- og strømforsyning til superdatamaskinen, men også bidra til byens overordnede mål for bærekraftig utvikling.

Kilde: https://znews.vn/nghich-ly-sieu-may-tinh-ai-cua-elon-musk-post1543685.html