Ifølge TomsHardware annonserte administrerende direktør i OpenAI nylig på plattform X (tidligere Twitter) at selskapet må utsette utrullingen av GPT-4.5 på grunn av mangel på GPU-er (grafikkort). OpenAI planlegger å legge til titusenvis av GPU-er neste uke for å distribuere denne modellen for brukere av Plus-abonnementet, som koster 20 dollar per måned. Han bekreftet også at hundretusenvis av flere GPU-er vil bli lagt til i nær fremtid.
OpenAI har lansert GPT-4.5, men kan ennå ikke distribuere det bredt på grunn av GPU-begrensninger, som er et kjerneelement for å kjøre AI.
FOTO: SKJERMBILDE FRA TECHPOWERUP
GPU-mangelen er ikke bare et problem for OpenAI; den gjenspeiler den økende etterspørselen etter AI-maskinvare. For å redusere avhengigheten av eksterne leverandører som Nvidia, har OpenAI inngått et samarbeid med Broadcom for å utvikle sin egen serie med AI-brikker. Dette vil imidlertid ta år før selskapet kan produsere brikker uavhengig. Foreløpig må OpenAI fortsatt stole på Nvidia og andre leverandører for å holde seg flytende.
Nvidia drar for tiden stor nytte av investeringsbølgen i AI. Selskapet bekreftet at deres nyeste Blackwell GPU-serie allerede er fullbestilt frem til oktober i år. Den økte etterspørselen er også drevet av planer om storskala datasenterutvidelser globalt. For eksempel samarbeider OpenAI og Microsoft om en AI-superdatamaskin til 100 milliarder dollar, mens milliardæren Elon Musk ønsker å utvide Colossus-superdatamaskinen i Memphis, Tennessee, til over én million GPU-er.
I tillegg fokuserer mange investorer også på AI-infrastruktursektoren. Den sørkoreanske regjeringen godkjente nylig et datasenterprosjekt på 3 GW (gigawatt), mens en annen forskningsgruppe eksperimenterer med lagring av data på månen . Microsofts administrerende direktør Satya Nadella advarer imidlertid om at folk bygger for mange AI-systemer ettersom modellene blir mer avanserte og ressurskrevende.
GPT-4.5 er et tydelig eksempel på denne trenden. Ifølge OpenAI-sjef Sam Altman er det en «enorm og dyr» modell, som koster opptil 75 dollar per million tokens som legges inn og 150 dollar per million tokens som produseres. GPT-40 – en annen OpenAI-modell – koster derimot bare henholdsvis 2,50 dollar og 10 dollar. Altman uttalte imidlertid at GPT-4.5 ikke fokuserer på resonneringsevne eller høy ytelse i tester, men i stedet tilbyr en annen type intelligens, som «emosjonell intelligens».
[annonse_2]
Kilde: https://thanhnien.vn/openai-tri-hoan-mo-rong-gpt-45-do-thieu-nguon-gpu-185250301222736674.htm
Kommentar (0)