A Nvidia não vende chips de IA para o farmacêutico Tien.

O distribuidor das linhas de GPUs dedicadas da Nvidia para o mercado corporativo no Vietnã confirmou que não comercializa chips A100 no país.

A farmacêutica Tien no programa de lançamento do ChatDST. Foto: Farmacêutica Tien .

No dia 14 de julho, o farmacêutico Tien publicou um vídeo nas redes sociais apresentando vários dos produtos da empresa. Entre eles, o chatbot de IA chamado ChatDST chamou a atenção com a afirmação "melhor que o ChatGPT".

O exemplo usado pelo Sr. Tien para comparação foi a capacidade de VRAM. Pham Minh Huu Tien (Farmacêutico Tien) gabou-se de que o sistema da construtora tinha o dobro da memória do ChatGPT (960 GB em comparação com 480 GB) ao usar 12 GPUs Nvidia A100. Além de fornecer informações não verificadas sobre o produto da OpenAI, a origem do lote do chip do processador também causou controvérsia.

Em conversa com Tri Thuc - ZNew s, um representante da LeadTek Vietnam afirmou que a empresa não vende produtos Nvidia A100 no mercado interno. Portanto, eles nunca venderam esse modelo de GPU para o farmacêutico Tien.

A LeadTek é a atacadista e distribuidora exclusiva das placas gráficas dedicadas da Nvidia no mercado da Ásia- Pacífico , incluindo o Vietnã. Portanto, é a única empresa que pode fornecer o produto A100 mencionado pelo farmacêutico Tien durante o lançamento do ChatDST.

Servidor que utiliza o chip A100 da Nvidia. Foto: Nvidia.

Por outro lado, os chips de IA são itens sensíveis, incluídos na lista de produtos visados ​​pelos EUA na guerra comercial. Portanto, a distribuição desse produto também é rigorosamente controlada, sendo difícil adquiri-lo.

Anteriormente, a Universidade de Tecnologia da Informação (Universidade Nacional da Cidade de Ho Chi Minh) era uma das poucas instituições no Vietnã que possuía a placa A100. Especificamente, a universidade adquiriu um computador DGX A100 com 8 GPUs Nvidia A100 pré-instaladas por 10 bilhões de VND em fevereiro de 2024. Para ter um super servidor para atender às pesquisas científicas , a Universidade de Tecnologia da Informação passou 9 meses negociando com a Nvidia para que esta concordasse em fornecer e exportar os equipamentos dos EUA.

Portanto, não está claro como o farmacêutico Tien passou a possuir um servidor com 12 placas Nvidia A100.

O A100 é um chip de geração antiga, mas ainda é amplamente utilizado em servidores de IA em todo o mundo, servindo para o treinamento de grandes modelos de linguagem e para a execução de chatbots. A nova versão H100 possui desempenho significativamente superior e é muito procurada por grandes empresas de tecnologia globais, o que leva à sua escassez. No Vietnã, apenas grandes empresas de tecnologia, como a FPT e a VNG, possuem esse servidor.

Por outro lado, não há nenhuma fonte que mostre que a OpenAI utiliza um servidor com 480 GB de memória, como anunciado por Pham Minh Huu Tien. De acordo com os parâmetros fornecidos por Tien, o ChatDST roda em uma plataforma com 12 GPUs Nvidia A100 de 80 GB, totalizando 960 GB de VRAM. O preço de mercado de cada uma dessas placas gráficas é de cerca de 700 milhões de VND, o que equivale a um investimento de 8,4 bilhões de VND apenas nesse componente, sem incluir os demais.

Entretanto, uma fonte do The Information afirmou que a OpenAI possui um data center com cerca de 350.000 placas A100 para inferência. Somente o ChatGPT utiliza 290.000 GPUs, 24.167 vezes a configuração anunciada pelo farmacêutico Tien. Além disso, a empresa também aluga servidores Azure da Microsoft para reduzir a carga quando o número de usuários aumenta.

Fonte: https://znews.vn/nvidia-khong-ban-chip-ai-cho-duoc-si-tien-post1569649.html