Dealer Nvidia mengatakan tidak akan menjual chip AI ke Apoteker Tien

Distributor lini GPU khusus Nvidia untuk bekerja di Vietnam mengonfirmasi bahwa mereka tidak menjual lini A100 di pasar domestik.

Apoteker Tien di program peluncuran ChatDST. Foto: Apoteker Tien .

Pada 14 Juli, Apoteker Tien mengunggah video yang memperkenalkan berbagai produk perusahaan di media sosial. Di antaranya, chatbot AI bernama ChatDST yang menarik perhatian dengan pernyataan "lebih baik daripada ChatGPT".

Contoh yang digunakan Bapak Tien sebagai perbandingan adalah kapasitas VRAM. Pham Minh Huu Tien (Apoteker Tien) membanggakan bahwa sistem perusahaan konstruksi tersebut memiliki memori dua kali lipat ChatGPT (960 GB dibandingkan dengan 480 GB) dengan menggunakan 12 GPU Nvidia A100. Selain memberikan informasi yang belum diverifikasi tentang produk dari OpenAI, asal usul batch chip prosesor tersebut juga menimbulkan kontroversi.

Berbicara kepada Tri Thuc - ZNews , perwakilan LeadTek Vietnam mengatakan bahwa perusahaan tidak menjual produk Nvidia A100 di pasar domestik. Oleh karena itu, mereka tidak pernah menjual model GPU tersebut kepada Apoteker Tien.

LeadTek adalah grosir dan distributor eksklusif kartu grafis khusus Nvidia di pasar Asia Pasifik , termasuk Vietnam. Oleh karena itu, LeadTek adalah satu-satunya pihak yang dapat memasok produk A100 yang disebutkan oleh Apoteker Tien saat peluncuran ChatDST.

Server menggunakan chip A100 Nvidia. Foto: Nvidia.

Di sisi lain, chip AI merupakan barang sensitif, yang dimasukkan oleh AS dalam perang dagang. Oleh karena itu, distribusi produk ini juga diawasi secara ketat, sehingga tidak mudah untuk dibeli.

Sebelumnya, Universitas Teknologi Informasi (Universitas Nasional Kota Ho Chi Minh) merupakan salah satu dari sedikit unit di Vietnam yang memiliki kartu A100. Lebih tepatnya, universitas tersebut membeli satu set komputer DGX A100 dengan 8 GPU Nvidia A100 yang sudah terpasang seharga 10 miliar VND pada Februari 2024. Untuk memiliki server super yang melayani penelitian ilmiah , Universitas Teknologi Informasi menghabiskan waktu 9 bulan untuk bernegosiasi agar Nvidia bersedia memasok dan mengekspor dari AS.

Oleh karena itu, tidak jelas bagaimana Apoteker Tien bisa memiliki server dengan 12 kartu Nvidia A100.

A100 adalah chip generasi lama, tetapi masih banyak digunakan di server AI di seluruh dunia, melayani pelatihan model bahasa berskala besar dan menjalankan chatbot. Versi H100 yang baru memiliki kinerja yang jauh lebih tinggi dan banyak dicari oleh perusahaan teknologi besar global, sehingga menyebabkan stoknya habis. Di Vietnam, hanya perusahaan teknologi besar seperti FPT dan VNG yang memiliki server ini.

Di sisi lain, tidak ada sumber yang menunjukkan bahwa OpenAI menggunakan server dengan memori 480 GB seperti yang diumumkan Pham Minh Huu Tien. Berdasarkan parameter yang diberikan oleh Apoteker Tien, ChatDST berjalan pada platform 12 GPU Nvidia A100 80 GB, dengan total VRAM 960 GB. Harga pasaran masing-masing kartu grafis ini sekitar 700 juta VND, setara dengan investasi 8,4 miliar VND untuk komponen ini, belum termasuk komponen lainnya.

Sementara itu, sumber dari The Information menyatakan bahwa OpenAI memiliki pusat data yang berisi sekitar 350.000 kartu A100 untuk inferensi. ChatGPT sendiri menggunakan 290.000 GPU, 24.167 kali lipat konfigurasi yang diumumkan oleh Apoteker Tien. Selain itu, perusahaan ini juga menyewa server Azure milik Microsoft untuk mengurangi beban kerja ketika jumlah pengguna meningkat.

Sumber: https://znews.vn/dai-ly-cua-nvidia-noi-khong-ban-chip-ai-cho-duoc-si-tien-post1569649.html