 |
Farmacistul Tien la programul de lansare ChatDST. Fotografie: Farmacistul Tien . |
Pe 14 iulie, farmacistul Tien a postat pe rețelele de socializare un videoclip în care prezenta multe dintre produsele companiei. Printre acestea, chatbot-ul cu inteligență artificială numit ChatDST a atras atenția cu afirmația „mai bun decât ChatGPT”.
Exemplul folosit de dl. Tien pentru comparație a fost capacitatea VRAM. Pham Minh Huu Tien (farmacistul Tien) s-a lăudat că sistemul companiei de construcții avea dublul memoriei față de ChatGPT (960 GB față de 480 GB) prin utilizarea a 12 GPU-uri Nvidia A100. Pe lângă furnizarea de informații neverificate despre produs de la OpenAI, originea lotului de cipuri al procesorului a stârnit, de asemenea, controverse.
Într-un interviu acordat lui Tri Thuc - ZNews , un reprezentant al LeadTek Vietnam a declarat că firma nu vinde produse Nvidia A100 pe piața internă. Prin urmare, nu au vândut niciodată modelul de GPU menționat anterior farmacistului Tien.
LeadTek este angrosistul și distribuitorul exclusiv al plăcilor grafice dedicate Nvidia pe piața din Asia- Pacific , inclusiv Vietnam. Prin urmare, aceasta este singura companie care poate furniza produsul A100 menționat de farmacistul Tien în timpul lansării ChatDST.
 |
Server care folosește cipul A100 de la Nvidia. Fotografie: Nvidia. |
Pe de altă parte, cipurile AI sunt articole sensibile, incluse pe lista SUA în războiul comercial. Prin urmare, distribuția acestui produs este, de asemenea, atent monitorizată, fiind dificil de cumpărat.
Anterior, Universitatea de Tehnologia Informației (Universitatea Națională din Ho Chi Minh City) era una dintre puținele unități din Vietnam care dețineau placa A100. Mai exact, școala a cumpărat un set de computere DGX A100 cu 8 GPU-uri Nvidia A100 preinstalate pentru 10 miliarde VND în februarie 2024. Pentru a avea un super-server care să deservească cercetarea științifică , Universitatea de Tehnologia Informației a petrecut 9 luni negociind ca Nvidia să accepte furnizarea și exportul din SUA.
Prin urmare, nu este clar cum a ajuns farmacistul Tien să dețină un server cu 12 plăci video Nvidia A100.
A100 este un cip de generație veche, dar este încă utilizat pe scară largă în serverele de inteligență artificială din întreaga lume, servind la antrenarea modelelor lingvistice mari și la rularea chatbot-urilor. Noua versiune H100 are performanțe semnificativ mai mari, fiind căutată de marile companii tehnologice globale, ceea ce duce la epuizarea stocurilor. În Vietnam, doar marile companii tehnologice, precum FPT și VNG, dețin acest server.
Pe de altă parte, nu există nicio sursă care să arate că OpenAI folosește un server cu 480 GB de memorie, așa cum a anunțat Pham Minh Huu Tien. Conform parametrilor furnizați de farmacistul Tien, ChatDST rulează pe o platformă cu 12 GPU-uri Nvidia A100 de 80 GB, cu un total de 960 GB de VRAM. Prețul de piață al fiecăreia dintre aceste plăci grafice este de aproximativ 700 de milioane VND, echivalentul unei investiții de 8,4 miliarde VND pentru această componentă, fără a include alte componente.
Între timp, o sursă de la The Information a declarat că OpenAI deține un centru de date care conține aproximativ 350.000 de carduri A100 pentru inferență. Numai ChatGPT utilizează 290.000 de GPU-uri, de 24.167 de ori mai mult decât configurația anunțată de farmacistul Tien. În plus, această companie închiriază și serverul Azure de la Microsoft pentru a reduce încărcarea atunci când numărul de utilizatori crește.
Sursă: https://znews.vn/dai-ly-cua-nvidia-noi-khong-ban-chip-ai-cho-duoc-si-tien-post1569649.html
Comentariu (0)