Az Nvidia kereskedője azt mondja, hogy nem fog mesterséges intelligencia chipeket eladni Tien gyógyszerésznek.

Az Nvidia vietnami munkákhoz dedikált GPU-termékcsaládjainak forgalmazója megerősítette, hogy nem értékesítik az A100-as termékcsaládot a hazai piacon.

Tien gyógyszerész a ChatDST elindító programján. Fotó: Tien gyógyszerész .

Július 14-én Tien gyógyszerész videót tett közzé a közösségi médiában, amelyben bemutatta a vállalat számos termékét. Közülük a ChatDST nevű mesterséges intelligencia alapú chatbot a „jobb, mint a ChatGPT” kijelentéssel keltette fel a figyelmet.

Mr. Tien összehasonlításképpen a VRAM kapacitását használta példaként. Pham Minh Huu Tien (gyógyszerész Tien) azzal dicsekedett, hogy az építőipari cég rendszere kétszer annyi memóriával rendelkezik, mint a ChatGPT (960 GB a 480 GB-tal szemben), mivel 12 Nvidia A100 GPU-t használ. Az OpenAI által szolgáltatott, ellenőrizetlen információk mellett a processzorchip-tétel eredete is vitákat váltott ki.

A Tri Thuc-nak - ZNews , a LeadTek Vietnam képviselője elmondta, hogy a cég nem értékesít Nvidia A100 termékeket a hazai piacon. Ezért soha nem adták el a fenti GPU-modellt a Pharmacist Tiennek.

A LeadTek az Nvidia dedikált grafikus kártyáinak nagykereskedője és kizárólagos forgalmazója az ázsiai- csendes-óceáni piacon, beleértve Vietnamot is. Ezért ez az egyetlen fél, amely szállíthatja azt az A100 terméket, amelyet Tien gyógyszerész a ChatDST bevezetése során említett.

Nvidia A100 chipjét használó szerver. Fotó: Nvidia.

Másrészt a mesterséges intelligencia chipek érzékeny termékek, amelyeket az Egyesült Államok kereskedelmi háborúban is listázott. Ezért ennek a terméknek a forgalmazását is szorosan figyelemmel kísérik, és nem könnyű beszerezni.

Korábban az Információs Technológiai Egyetem (Ho Si Minh-városi Nemzeti Egyetem) volt az egyik azon kevés vietnami intézmény, amely rendelkezett az A100 kártyával. Konkrétan az egyetem 2024 februárjában 10 milliárd vietnami dongért vásárolt egy DGX A100 számítógépkészletet 8 db előre telepített Nvidia A100 GPU-val. Ahhoz, hogy egy szuperszerverrel rendelkezzen a tudományos kutatások kiszolgálására, az Információs Technológiai Egyetem 9 hónapot töltött azzal, hogy tárgyalásokat folytasson az Nvidia-val az Egyesült Államokból történő szállítás és export tekintetében.

Ezért nem világos, hogyan került Tien gyógyszerész birtokába egy 12 Nvidia A100 kártyával rendelkező szerver.

Az A100 egy régi generációs chip, de még mindig széles körben használják mesterséges intelligencia szerverekben világszerte, nagy nyelvi modellek betanítására és chatbotok futtatására. Az új H100 verzió jelentősen nagyobb teljesítményű, a globális nagyvállalatok keresik, ami készlethiányhoz vezet. Vietnámban csak olyan nagy technológiai vállalatok, mint az FPT és a VNG birtokolják ezt a szervert.

Másrészről viszont nincs olyan forrás, amely azt mutatná, hogy az OpenAI egy 480 GB memóriával rendelkező szervert használna, ahogy azt Pham Minh Huu Tien bejelentette. A Pharmacist Tien által megadott paraméterek szerint a ChatDST 12 Nvidia A100 80 GB-os GPU-ból álló platformon fut, összesen 960 GB VRAM-mal. Ezen grafikus kártyák piaci ára egyenként körülbelül 700 millió VND, ami 8,4 milliárd VND befektetésnek felel meg erre a komponensre, a többi alkatrészt nem számítva.

Eközben egy forrás a The Informationtól azt állította, hogy az OpenAI egy adatközponttal rendelkezik, amely körülbelül 350 000 A100-as kártyát tartalmaz következtetésekhez. A ChatGPT önmagában 290 000 GPU-t használ, ami 24 167-szerese a Pharmacist Tien által bejelentett konfigurációnak. Ezenkívül a cég a Microsoft Azure szerverét is bérli, hogy csökkentse a terhelést, amikor a felhasználók száma növekszik.

Forrás: https://znews.vn/dai-ly-cua-nvidia-noi-khong-ban-chip-ai-cho-duoc-si-tien-post1569649.html