Nvidia säljer inte AI-chips till farmaceuten Tien

Distributören av Nvidias dedikerade GPU-linjer för arbete i Vietnam bekräftade att de inte säljer A100-chip på den inhemska marknaden.

Farmaceut Tien vid lanseringsprogrammet för ChatDST. Foto: Farmaceut Tien .

Den 14 juli publicerade apotekaren Tien en video på sociala medier där han presenterade många av företagets produkter. Bland dem uppmärksammades AI-chatboten ChatDST med påståendet ”bättre än ChatGPT”.

Exemplet som Mr. Tien använde för jämförelse var VRAM-kapaciteten. Pham Minh Huu Tien (apotekaren Tien) skröt om att byggföretagets system hade dubbelt så mycket minne som ChatGPT (960 GB jämfört med 480 GB) genom att använda 12 Nvidia A100 GPU:er. Förutom att tillhandahålla overifierad information om produkten från OpenAI, orsakade ursprunget för processorchipbatchen också kontroverser.

I ett samtal med Tri Thuc - ZNews sa en representant för LeadTek Vietnam att företaget inte säljer Nvidia A100-produkter på den inhemska marknaden. Därför har de aldrig sålt ovanstående GPU-modell till apotekaren Tien.

LeadTek är grossist och exklusiv distributör av Nvidias dedikerade grafikkort på Asien- Stillahavsområdet , inklusive Vietnam. Därför är detta den enda parten som kan leverera A100-produkten som farmaceuten Tien nämnde under ChatDST-lanseringen.

Server med Nvidias A100-chip. Foto: Nvidia.

Å andra sidan är AI-chips känsliga varor, listade av USA i handelskriget. Därför övervakas distributionen av denna produkt också noggrant och är inte lätt att köpa.

Tidigare var University of Information Technology (Ho Chi Minh City National University) en av få enheter i Vietnam som ägde A100-kortet. Mer specifikt köpte skolan en DGX A100-dator med 8 förinstallerade Nvidia A100 GPU:er för 10 miljarder VND i februari 2024. För att ha en superserver för vetenskaplig forskning spenderade University of Information Technology 9 månader på att förhandla om att Nvidia skulle gå med på att leverera och exportera från USA.

Därför är det oklart hur apotekaren Tien kom att äga en server med 12 Nvidia A100-kort.

A100 är ett chip av den gamla generationen, men det används fortfarande flitigt i AI-servrar runt om i världen, där det används för träning av stora språkmodeller och för att köra chatbotar. Den nya H100-versionen har betydligt högre prestanda och är eftertraktad av globala storteknikföretag, vilket leder till slut i lager. I Vietnam är det bara stora teknikföretag som FPT och VNG som äger denna server.

Å andra sidan finns det ingen källa som visar att OpenAI använder en server med 480 GB minne, vilket Pham Minh Huu Tien tillkännagav. Enligt parametrarna som angetts av Pharmacist Tien körs ChatDST på en plattform med 12 Nvidia A100 80 GB GPU:er, med totalt 960 GB VRAM. Marknadspriset för vart och ett av dessa grafikkort är cirka 700 miljoner VND, vilket motsvarar en investering på 8,4 miljarder VND för denna komponent, exklusive andra komponenter.

Samtidigt uppgav en källa från The Information att OpenAI äger ett datacenter med cirka 350 000 A100-kort för inferens. Enbart ChatGPT använder 290 000 GPU:er, 24 167 gånger den konfiguration som Pharmacist Tien tillkännagav. Dessutom hyr detta företag Microsofts Azure-server för att minska belastningen när antalet användare ökar.

Källa: https://znews.vn/nvidia-khong-ban-chip-ai-cho-duoc-si-tien-post1569649.html