Revendedor da Nvidia diz que não venderá chips de IA para o farmacêutico Tien

O distribuidor das linhas de GPU dedicadas da Nvidia para trabalho no Vietnã confirmou que não vende a linha A100 no mercado doméstico.

Farmacêutico Tien no programa de lançamento do ChatDST. Foto: Farmacêutico Tien .

Em 14 de julho, o farmacêutico Tien postou um vídeo apresentando diversos produtos da empresa nas redes sociais. Entre eles, o chatbot de IA chamado ChatDST chamou a atenção com a afirmação "melhor que o ChatGPT".

O exemplo que o Sr. Tien usou para comparação foi a capacidade da VRAM. Pham Minh Huu Tien (Farmacêutico Tien) se gabou de que o sistema da construtora tinha o dobro da memória do ChatGPT (960 GB em comparação com 480 GB) usando 12 GPUs Nvidia A100. Além de fornecer informações não verificadas sobre o produto da OpenAI, a origem do lote de chips do processador também causou controvérsia.

Em entrevista ao Tri Thuc - ZNews , um representante da LeadTek Vietnam afirmou que a empresa não vende produtos Nvidia A100 no mercado doméstico. Portanto, eles nunca venderam o modelo de GPU acima para o farmacêutico Tien.

A LeadTek é a atacadista e distribuidora exclusiva das placas de vídeo dedicadas da Nvidia no mercado da Ásia- Pacífico , incluindo o Vietnã. Portanto, esta é a única empresa que pode fornecer o produto A100 mencionado pelo farmacêutico Tien durante o lançamento do ChatDST.

Servidor usando o chip A100 da Nvidia. Foto: Nvidia.

Por outro lado, os chips de IA são itens sensíveis, listados pelos EUA na guerra comercial. Portanto, a distribuição deste produto também é monitorada de perto, o que dificulta sua compra.

Anteriormente, a Universidade de Tecnologia da Informação (Universidade Nacional da Cidade de Ho Chi Minh) era uma das poucas unidades no Vietnã que possuía a placa A100. Especificamente, a instituição comprou um conjunto de computadores DGX A100 com 8 GPUs Nvidia A100 pré-instaladas por 10 bilhões de VND em fevereiro de 2024. Para ter um superservidor para atender à pesquisa científica , a Universidade de Tecnologia da Informação passou 9 meses negociando com a Nvidia para fornecer e exportar dos EUA.

Portanto, não está claro como o farmacêutico Tien adquiriu um servidor com 12 placas Nvidia A100.

O A100 é um chip de geração antiga, mas ainda é amplamente utilizado em servidores de IA em todo o mundo, servindo para o treinamento de grandes modelos de linguagem e para a execução de chatbots. A nova versão H100 tem desempenho significativamente superior e é procurada por grandes empresas de tecnologia globais, o que levou à falta de estoque. No Vietnã, apenas grandes empresas de tecnologia, como FPT e VNG, possuem este servidor.

Por outro lado, não há nenhuma fonte que mostre que a OpenAI utiliza um servidor com 480 GB de memória, como anunciado por Pham Minh Huu Tien. De acordo com os parâmetros fornecidos pelo farmacêutico Tien, o ChatDST roda em uma plataforma com 12 GPUs Nvidia A100 de 80 GB, com um total de 960 GB de VRAM. O preço de mercado de cada uma dessas placas gráficas é de cerca de 700 milhões de VND, o equivalente a um investimento de 8,4 bilhões de VND para este componente, sem incluir outros componentes.

Enquanto isso, uma fonte do The Informatio n afirmou que a OpenAI possui um data center com cerca de 350.000 placas A100 para inferência. Só o ChatGPT utiliza 290.000 GPUs, 24.167 vezes a configuração anunciada pelo farmacêutico Tien. Além disso, a empresa também aluga o servidor Azure da Microsoft para reduzir a carga quando o número de usuários aumenta.

Fonte: https://znews.vn/dai-ly-cua-nvidia-noi-khong-ban-chip-ai-cho-duoc-si-tien-post1569649.html