Nvidia bayisi, Eczacı Tien'e yapay zeka çipleri satmayacağını söylüyor

Nvidia'nın Vietnam'daki özel GPU serilerinin dağıtıcısı, A100 serisini iç pazarda satmadıklarını doğruladı.

Eczacı Tien, ChatDST lansman programında. Fotoğraf: Eczacı Tien .

Eczacı Tien, 14 Temmuz'da sosyal medyada şirketin birçok ürününü tanıtan bir video paylaştı. Bunlar arasında yer alan ChatDST adlı yapay zeka tabanlı chatbot, "ChatGPT'den daha iyi" ifadesiyle dikkat çekti.

Bay Tien'in karşılaştırma için kullandığı örnek VRAM kapasitesiydi. Pham Minh Huu Tien (Eczacı Tien), inşaat şirketinin sisteminin 12 Nvidia A100 GPU kullanarak ChatGPT'nin iki katı belleğe (480 GB'a kıyasla 960 GB) sahip olduğunu iddia etti. OpenAI'dan ürün hakkında doğrulanmamış bilgiler sağlamanın yanı sıra, işlemci çipi grubunun kökeni de tartışmalara yol açtı.

Tri Thuc - ZNews ile görüşen LeadTek Vietnam temsilcisi, şirketin Nvidia A100 ürünlerini yurt içi pazarda satmadığını, dolayısıyla yukarıdaki GPU modelini Eczacı Tien'e hiç satmadıklarını söyledi.

LeadTek, Vietnam da dahil olmak üzere Asya -Pasifik pazarında Nvidia'nın özel ekran kartlarının toptancısı ve münhasır distribütörüdür. Bu nedenle, Eczacı Tien'in ChatDST lansmanında bahsettiği A100 ürününü tedarik edebilecek tek taraftır.

Nvidia'nın A100 çipini kullanan sunucu. Fotoğraf: Nvidia.

Öte yandan, yapay zeka çipleri ABD'nin ticaret savaşında listelediği hassas ürünlerdir. Bu nedenle, bu ürünün dağıtımı da yakından takip edilmekte ve satın alınması kolay değildir.

Daha önce, Bilgi Teknolojileri Üniversitesi (Ho Chi Minh City Ulusal Üniversitesi), Vietnam'da A100 kartına sahip olan az sayıdaki birimden biriydi. Okul, Şubat 2024'te 10 milyar VND karşılığında 8 adet Nvidia A100 GPU'su önceden kurulu bir DGX A100 bilgisayar seti satın almıştı. Bilimsel araştırmalara hizmet verecek bir süper sunucuya sahip olmak için Bilgi Teknolojileri Üniversitesi, Nvidia'nın ABD'den tedarik ve ihracat yapmayı kabul etmesi için 9 ay boyunca müzakereler yürüttü.

Dolayısıyla Eczacı Tien'in 12 adet Nvidia A100 kartına sahip bir sunucuya nasıl sahip olduğu belirsizdir.

A100 eski nesil bir çip olmasına rağmen, dünya genelindeki yapay zeka sunucularında hâlâ yaygın olarak kullanılıyor ve büyük dil modellerinin eğitimini ve sohbet robotlarının çalıştırılmasını sağlıyor. Yeni H100 versiyonu ise önemli ölçüde daha yüksek performansa sahip ve küresel büyük teknoloji şirketleri tarafından rağbet görüyor, bu da stokların tükenmesine yol açıyor. Vietnam'da bu sunucuya yalnızca FPT ve VNG gibi büyük teknoloji şirketleri sahip.

Öte yandan, Pham Minh Huu Tien'in duyurduğu gibi OpenAI'nin 480 GB belleğe sahip bir sunucu kullandığını gösteren bir kaynak bulunmuyor. Eczacı Tien'in verdiği parametrelere göre ChatDST, toplam 960 GB VRAM'e sahip 12 adet Nvidia A100 80 GB GPU'dan oluşan bir platformda çalışıyor. Bu ekran kartlarının her birinin piyasa fiyatı yaklaşık 700 milyon VND, yani bu bileşen için diğer bileşenler hariç 8,4 milyar VND yatırım gerekiyor.

Bu arada, The Informatio n'dan bir kaynak, OpenAI'nin çıkarım için yaklaşık 350.000 A100 kartı içeren bir veri merkezine sahip olduğunu söyledi. ChatGPT tek başına 290.000 GPU kullanıyor; bu da Pharmacist Tien'in duyurduğu yapılandırmanın 24.167 katı. Ayrıca, bu şirket kullanıcı sayısı arttığında yükü azaltmak için Microsoft'un Azure sunucusunu da kiralıyor.

Kaynak: https://znews.vn/dai-ly-cua-nvidia-noi-khong-ban-chip-ai-cho-duoc-si-tien-post1569649.html