Nvidia-forhandler sier at de ikke vil selge AI-brikker til farmasøyten Tien

Distributøren av Nvidias dedikerte GPU-linjer for arbeid i Vietnam bekreftet at de ikke selger A100-linjen i hjemmemarkedet.

Farmasøyt Tien ved lanseringsprogrammet til ChatDST. Foto: Farmasøyt Tien .

14. juli la farmasøyten Tien ut en video som introduserte mange av selskapets produkter på sosiale medier. Blant dem vakte AI-chatboten ChatDST oppsikt med utsagnet «bedre enn ChatGPT».

Eksemplet Mr. Tien brukte til sammenligning var VRAM-kapasiteten. Pham Minh Huu Tien (farmasøyt Tien) skrøt av at byggefirmaets system hadde dobbelt så mye minne som ChatGPT (960 GB sammenlignet med 480 GB) ved å bruke 12 Nvidia A100 GPU-er. I tillegg til å gi ubekreftet informasjon om produktet fra OpenAI, forårsaket også opprinnelsen til prosessorbrikkebatchen kontrovers.

I et intervju med Tri Thuc - ZNew sa en representant for LeadTek Vietnam at selskapet ikke selger Nvidia A100-produkter på hjemmemarkedet. Derfor har de aldri solgt GPU-modellen ovenfor til farmasøyten Tien.

LeadTek er grossist og eksklusiv distributør av Nvidias dedikerte grafikkort i Asia- Stillehavsmarkedet , inkludert Vietnam. Derfor er dette den eneste parten som kan levere A100-produktet som farmasøyt Tien nevnte under ChatDST-lanseringen.

Server som bruker Nvidias A100-brikke. Foto: Nvidia.

På den annen side er AI-brikker sensitive varer, som USA har satt opp i handelskrigen. Derfor overvåkes distribusjonen av dette produktet også nøye, og det er ikke lett å kjøpe.

Tidligere var University of Information Technology (Ho Chi Minh City National University) en av få enheter i Vietnam som eide A100-kortet. Mer spesifikt kjøpte skolen et DGX A100-datamaskinsett med 8 Nvidia A100 GPU-er forhåndsinstallert for 10 milliarder VND i februar 2024. For å ha en superserver til bruk for vitenskapelig forskning brukte University of Information Technology ni måneder på å forhandle om at Nvidia skulle godta levering og eksport fra USA.

Derfor er det uklart hvordan farmasøyt Tien kom til å eie en server med 12 Nvidia A100-kort.

A100 er en brikke av den gamle generasjonen, men den er fortsatt mye brukt i AI-servere over hele verden, og brukes til trening av store språkmodeller og kjøring av chatboter. Den nye H100-versjonen har betydelig høyere ytelse og er ettertraktet av globale teknologiselskaper, noe som har ført til at den er utsolgt. I Vietnam er det bare store teknologiselskaper som FPT og VNG som eier denne serveren.

På den annen side finnes det ingen kilde som viser at OpenAI bruker en server med 480 GB minne, slik Pham Minh Huu Tien annonserte. I følge parameterne gitt av Pharmacist Tien, kjører ChatDST på en plattform med 12 Nvidia A100 80 GB GPU-er, med totalt 960 GB VRAM. Markedsprisen for hvert av disse grafikkortene er omtrent 700 millioner VND, tilsvarende en investering på 8,4 milliarder VND for denne komponenten, utenom andre komponenter.

I mellomtiden opplyste en kilde fra The Information at OpenAI eier et datasenter som inneholder rundt 350 000 A100-kort for inferens. ChatGPT alene bruker 290 000 GPU-er, 24 167 ganger konfigurasjonen som Pharmacist Tien annonserte. I tillegg leier dette selskapet også Microsofts Azure-server for å redusere belastningen når antallet brukere øker.

Kilde: https://znews.vn/dai-ly-cua-nvidia-noi-khong-ban-chip-ai-cho-duoc-si-tien-post1569649.html