På et utviklerarrangement 18. mars annonserte Nvidia en rekke nye produkter som har som mål å styrke sin posisjon i markedet for kunstig intelligens (KI). Brikkeprodusentens aksjekurs har økt 54 ganger, og inntektene har mer enn tredoblet seg siden ChatGPT lanserte sitt globale KI-kappløp sent i 2022. Nvidias avanserte server-GPU-er spiller en avgjørende rolle i trening og distribusjon av storskala språkmodeller. Selskaper som Microsoft og Meta har brukt milliarder av dollar på å kjøpe disse brikkene.
Nvidia har kalt sin nye generasjon av AI-brikker Blackwell. Den første Blackwell-brikken – GB200 – vil være tilgjengelig senere i år. Nvidia tilbyr kundene kraftigere brikker for å øke antallet nye bestillinger. For øyeblikket kjemper kundene fortsatt for å få tak i H100 Hopper-brikken.
«Hopper er flott, men vi trenger større GPU-er», sa Nvidias administrerende direktør Jensen Huang på arrangementet.
Ved siden av Blackwell-brikken introduserte Nvidia også NIM-programvare for å legge til rette for AI-distribusjon. Ifølge Nvidia-representanter er selskapet gradvis i ferd med å bli en plattformleverandør som Apple og Microsoft, snarere enn bare en brikkeleverandør.
«Blackwell er ikke en brikke, det er navnet på en plattform», sa Huang. Nvidias visepresident Manuvir Das lovet at NIM-programvare ville hjelpe programmerere med å kjøre programmer på alle Nvidia GPU-er, gamle eller nye, for å nå flere mennesker.
Blackwell, Hoppers etterfølger.
Hvert andre år oppdaterer Nvidia GPU-arkitekturen sin, noe som åpner for ny ytelsesvekst. Mange AI-modeller som ble lansert i fjor, ble trent på Hopper-arkitekturen, som har eksistert siden 2022.
Nvidia sier at Blackwell-baserte brikker som GB200 forbedrer AI-ytelsen betydelig for AI-bedrifter, med 20 petaflops sammenlignet med 4 petaflops på H100. Denne prosessorkraften lar AI-bedrifter trene større og mer komplekse modeller.
Blackwell GPU-en er stor og kombinerer to separat produserte brikker i én enkelt brikke. Den er også tilgjengelig som en komplett server kalt GB200 NVLink 2, som inneholder 72 Blackwell GPU-er og andre Nvidia-komponenter designet for trening av AI-modeller.
Amazon, Google, Microsoft og Oracle vil selge tilgang til GB200 gjennom skytjenester. GB200 kombinerer to Blackwell B200 GPU-er med en Grace CPU. Nvidia sier at Amazon Web Services (AWS) vil bygge en serverklynge med 20 000 GB200-brikker.
Systemet kan distribuere en modell med 27 billioner parametere, langt større enn selv de største modellene som er tilgjengelige for øyeblikket, som for eksempel GPT-4 (1,7 billioner parametere). Mange AI-forskere mener at større modeller med flere parametere og data kan åpne for nye muligheter.
Nvidia har ennå ikke annonsert priser for den nye GB200 eller systemer som inneholder GB200. Nvidias Hopper-baserte H100 er priset mellom 25 000 og 40 000 dollar per enhet, og hele systemer er anslått å koste opptil 200 000 dollar, ifølge analytikere.
(Ifølge CNBC)
[annonse_2]
Kilde
Kommentar (0)