Eczacı Tien, ChatDST lansman etkinliğinde. Fotoğraf: Eczacı Tien . |
14 Temmuz'da eczacı Tiến, sosyal medyada şirketin çeşitli ürünlerini tanıtan bir video yayınladı. Bunlar arasında, "ChatGPT'den daha iyi" olduğu iddiasıyla dikkat çeken ChatDST adlı yapay zeka sohbet robotu öne çıktı.
Bay Tien'in karşılaştırma için kullandığı örnek VRAM kapasitesiydi. Eczacı Tien, inşaat şirketinin sisteminin 12 adet Nvidia A100 GPU kullanarak ChatGPT'nin iki katı belleğe (480 GB'a karşılık 960 GB) sahip olduğunu övünerek belirtti. OpenAI'den ürün hakkında doğrulanmamış bilgiler sunmanın yanı sıra, işlemci çiplerinin kökeni de tartışmalara yol açtı.
Tri Thức - ZNews'e konuşan LeadTek Vietnam temsilcisi, şirketin iç pazarda Nvidia A100 ürünleri satmadığını belirtti. Bu nedenle, söz konusu GPU modelini hiçbir zaman Pharmacist Tiến'e satmadıklarını da sözlerine ekledi.
LeadTek, Vietnam da dahil olmak üzere Asya-Pasifik pazarında Nvidia'nın profesyonel grafik kartlarının toptancısı ve münhasır distribütörüdür. Bu nedenle, Eczacı Tien'in ChatDST lansman etkinliğinde bahsettiği A100 ürününün tek tedarikçisidir.
![]() |
Sunucu, Nvidia'nın A100 çipini kullanıyor. Fotoğraf: Nvidia. Bunlar da ilginizi çekebilir |
Öte yandan, yapay zeka çipleri hassas ürünler olup, ticaret savaşında ABD'nin kontrol listesine alınmıştır. Bu nedenle, bu ürünlerin dağıtımı da yakından izlenmekte ve satın alınmaları kolay değildir.
Daha önce, Bilgi Teknolojileri Üniversitesi (Vietnam Ulusal Üniversitesi Ho Chi Minh Şehri), Vietnam'da A100 ekran kartına sahip birkaç kurumdan biriydi. Özellikle, üniversite Şubat 2024'te 10 milyar VND karşılığında önceden yüklenmiş 8 adet Nvidia A100 GPU'lu bir DGX A100 bilgisayar sistemi satın aldı. Bilimsel araştırmalar için bu süper sunucuyu edinmek amacıyla, Bilgi Teknolojileri Üniversitesi, ABD'den tedarik ve ihracat konusunda Nvidia ile 9 ay boyunca görüşmeler yaparak anlaşma sağladı.
Dolayısıyla, Eczacı Tien'in 12 adet Nvidia A100 grafik kartına sahip bir sunucuyu nasıl edindiği belirsizdir.
A100 eski nesil bir çip olmasına rağmen, dünya çapında yapay zeka sunucularında büyük dil modellerini eğitmek ve sohbet botları çalıştırmak için hala yaygın olarak kullanılmaktadır. Daha yeni H100 sürümü önemli ölçüde daha yüksek performans sunmaktadır ve küresel teknoloji devleri tarafından oldukça rağbet görmektedir, bu da kıtlığa yol açmaktadır. Vietnam'da bu sunuculara yalnızcaFPT ve VNG gibi büyük teknoloji şirketleri sahiptir.
Öte yandan, Phạm Minh Hữu Tiến'in iddia ettiği gibi OpenAI'nin 480 GB belleğe sahip sunucular kullandığını gösteren hiçbir kaynak bulunmamaktadır. Phạm Minh Hữu Tiến tarafından sağlanan özelliklere göre, ChatDST, toplam 960 GB VRAM'e sahip 12 adet Nvidia A100 80 GB GPU'dan oluşan bir platformda çalışmaktadır. Bu grafik kartlarının her birinin piyasa fiyatı yaklaşık 700 milyon VND olup, diğer bileşenler hariç, yalnızca bu bileşen için 8,4 milyar VND'lik bir yatırıma eşdeğerdir.
Bu arada, The Information'dan elde edilen kaynaklar, OpenAI'nin çıkarım işlemleri için yaklaşık 350.000 adet A100 GPU içeren bir veri merkezine sahip olduğunu belirtiyor. Sadece ChatGPT bile 290.000 GPU kullanıyor; bu, Pharmacist Tien tarafından açıklanan yapılandırmanın 24.167 katı. Ayrıca şirket, kullanıcı sayısı arttıkça yükü azaltmak için Microsoft'un Azure sunucularını kiralıyor.
Kaynak: https://znews.vn/nvidia-khong-ban-chip-ai-cho-duoc-si-tien-post1569649.html







