Nvidia no vende chips de IA al farmacéutico Tien

El distribuidor de las líneas de GPU dedicadas de Nvidia para trabajar en Vietnam confirmó que no venden chips A100 en el mercado nacional.

El farmacéutico Tien en el lanzamiento de ChatDST. Foto: El farmacéutico Tien .

El 14 de julio, el farmacéutico Tien publicó un video en redes sociales presentando varios de los productos de la compañía. Entre ellos, el chatbot de IA ChatDST llamó la atención con la afirmación "mejor que ChatGPT".

El ejemplo que el Sr. Tien usó como comparación fue la capacidad de VRAM. Pham Minh Huu Tien (el farmacéutico Tien) se jactó de que el sistema de la empresa constructora tenía el doble de memoria que ChatGPT (960 GB en comparación con 480 GB) al usar 12 GPU Nvidia A100. Además de proporcionar información no verificada sobre el producto de OpenAI, el origen del lote de chips del procesador también generó controversia.

En una entrevista con Tri Thuc - ZNews , un representante de LeadTek Vietnam afirmó que la compañía no vende productos Nvidia A100 en el mercado nacional. Por lo tanto, nunca le han vendido el modelo de GPU mencionado a la farmacéutica Tien.

LeadTek es mayorista y distribuidor exclusivo de las tarjetas gráficas dedicadas de Nvidia en el mercado de Asia- Pacífico , incluido Vietnam. Por lo tanto, es el único proveedor que puede suministrar el producto A100 que mencionó el farmacéutico Tien durante el lanzamiento de ChatDST.

Servidor que utiliza el chip A100 de Nvidia. Foto: Nvidia.

Por otro lado, los chips de IA son productos sensibles, incluidos en la lista de Estados Unidos en la guerra comercial. Por lo tanto, su distribución también se vigila de cerca, lo que dificulta su adquisición.

Anteriormente, la Universidad de Tecnología de la Información (Universidad Nacional de Ciudad Ho Chi Minh) era una de las pocas unidades en Vietnam que contaba con la tarjeta A100. En concreto, la institución adquirió un equipo informático DGX A100 con 8 GPU Nvidia A100 preinstaladas por 10 000 millones de dongs en febrero de 2024. Para contar con un superservidor que sirviera a la investigación científica , la Universidad de Tecnología de la Información dedicó nueve meses a negociar con Nvidia para que aceptara el suministro y la exportación desde Estados Unidos.

Por lo tanto, no está claro cómo el farmacéutico Tien llegó a ser propietario de un servidor con 12 tarjetas Nvidia A100.

El A100 es un chip de generación anterior, pero aún se usa ampliamente en servidores de IA en todo el mundo, lo que permite entrenar grandes modelos de lenguaje y ejecutar chatbots. La nueva versión del H100 ofrece un rendimiento significativamente mayor y es muy solicitada por las grandes tecnológicas globales, lo que ha provocado su agotamiento. En Vietnam, solo grandes empresas tecnológicas como FPT y VNG poseen este servidor.

Por otro lado, ninguna fuente indica que OpenAI utilice un servidor con 480 GB de memoria, como anunció Pham Minh Huu Tien. Según los parámetros proporcionados por el farmacéutico Tien, ChatDST se ejecuta en una plataforma de 12 GPU Nvidia A100 de 80 GB, con un total de 960 GB de VRAM. El precio de mercado de cada una de estas tarjetas gráficas ronda los 700 millones de dongs, lo que equivale a una inversión de 8400 millones de dongs para este componente, sin incluir otros componentes.

Mientras tanto, una fuente de The Informatio n afirmó que OpenAI posee un centro de datos con aproximadamente 350.000 tarjetas A100 para inferencia. Solo ChatGPT utiliza 290.000 GPU, 24.167 veces la configuración anunciada por el farmacéutico Tien. Además, esta empresa también alquila el servidor Azure de Microsoft para reducir la carga cuando aumenta el número de usuarios.

Fuente: https://znews.vn/nvidia-khong-ban-chip-ai-cho-duoc-si-tien-post1569649.html