Enligt TomsHardware meddelade VD:n för OpenAI just på X-plattformen (tidigare Twitter) att företaget måste skjuta upp utökningen av GPT-4.5 på grund av bristen på GPU:er (grafikkort). OpenAI planerar att lägga till tiotusentals GPU:er nästa vecka för att distribuera denna modell till Plus-användare för 20 dollar/månad. Han bekräftade också att hundratusentals GPU:er kommer att läggas till inom en snar framtid.
OpenAI lanserar GPT-4.5 men kan inte distribueras i stor utsträckning på grund av GPU-begränsningar, vilka är kärnelementen för att köra AI
FOTO: TECHPOWERUP SKÄRMBILD
Bristen på grafikkort är inte bara ett OpenAI-problem, det är en återspegling av den växande efterfrågan på AI-hårdvara. För att minska sitt beroende av externa leverantörer som Nvidia har OpenAI samarbetat med Broadcom för att utveckla sin egen serie AI-chips. Det kommer dock att dröja år innan företaget kan producera sina egna chips. För närvarande kommer OpenAI fortfarande att behöva förlita sig på Nvidia och andra leverantörer för att upprätthålla sin verksamhet.
Nvidia gynnas av vågen av AI-investeringar, vilket bekräftar att deras senaste Blackwell-grafikprocessorer är fullbokade fram till oktober. Efterfrågan drivs också av massiva datacenterutbyggnader runt om i världen. OpenAI och Microsoft samarbetar till exempel för att bygga en AI-superdator värd 100 miljarder dollar, medan miljardären Elon Musk vill utöka superdatorn Colossus i Memphis, Tennessee, till över en miljon grafikprocessorer.
Dessutom fokuserar många investerare även på AI-infrastruktur. Den sydkoreanska regeringen har precis godkänt ett datacenterprojekt på 3 GW (gigawatt), medan en annan forskargrupp testar datalagring på månen . Microsofts VD Satya Nadella varnade dock för att människor bygger för många AI-system medan modellerna blir mer avancerade och förbrukar mer resurser.
GPT-4.5 är ett tydligt exempel på denna trend. Enligt Open AIs VD Sam Altman är detta en "enorm och dyr" modell, med användningskostnader på upp till 75 dollar för varje miljon input-tokens och 150 dollar för varje miljon output-tokens. Samtidigt kostar GPT-4o – en annan OpenAI-modell – bara 2,50 dollar och 10 dollar för motsvarande nivåer. Altman sa dock att GPT-4.5 inte fokuserar på resonemangsförmåga eller hög prestanda på tester, utan istället ger en annan typ av intelligens, såsom "emotionell intelligens".
[annons_2]
Källa: https://thanhnien.vn/openai-tri-hoan-mo-rong-gpt-45-do-thieu-nguon-gpu-185250301222736674.htm






Kommentar (0)