Nvidia no vende chips de IA al farmacéutico Tien

El farmacéutico Tien en el lanzamiento de ChatDST. Foto: El farmacéutico Tien .

El 14 de julio, el farmacéutico Tien publicó un video en redes sociales presentando muchos de los productos de la compañía. Entre ellos, el chatbot de IA ChatDST atrajo la atención con la afirmación "mejor que ChatGPT".

El ejemplo que el Sr. Tien usó como comparación fue la capacidad de la VRAM. Pham Minh Huu Tien (el farmacéutico Tien) se jactó de que el sistema de la constructora tenía el doble de memoria que ChatGPT (960 GB en comparación con 480 GB) al usar 12 GPU Nvidia A100. Además de proporcionar información no verificada sobre el producto de OpenAI, el origen del lote de chips de procesamiento también generó controversia.

En una entrevista con Tri Thuc - ZNews , un representante de LeadTek Vietnam afirmó que la compañía no vende productos Nvidia A100 en el mercado nacional. Por lo tanto, nunca le han vendido el modelo de GPU mencionado a la farmacéutica Tien.

LeadTek es el mayorista y distribuidor exclusivo de las tarjetas gráficas dedicadas de Nvidia en el mercado de Asia- Pacífico , incluyendo Vietnam. Por lo tanto, es el único proveedor que puede suministrar el producto A100 que el farmacéutico Tien mencionó durante el lanzamiento de ChatDST.

Nvidia A100, chip AI, LeadTek khong ban, Duoc si Tien ChatDST, GPU Nvidia AI, mua chip A100 anh 1

Servidor que utiliza el chip A100 de Nvidia. Foto: Nvidia.

Por otro lado, los chips de IA son productos sensibles, catalogados por Estados Unidos como artículos controlados en la guerra comercial. Por lo tanto, su distribución también está estrechamente vigilada y no es fácil adquirirlos.

Anteriormente, la Universidad de Tecnología de la Información (Universidad Nacional de Ciudad Ho Chi Minh) era una de las pocas unidades en Vietnam que contaba con una tarjeta A100. En concreto, la institución adquirió un equipo informático DGX A100 con 8 GPU Nvidia A100 preinstaladas por 10 000 millones de dongs en febrero de 2024. Para contar con un superservidor para la investigación científica , la Universidad de Tecnología de la Información dedicó nueve meses a negociar con Nvidia el suministro y la exportación desde Estados Unidos.

Por lo tanto, no está claro cómo el farmacéutico Tien llegó a ser propietario de un servidor con 12 tarjetas Nvidia A100.

El A100 es un chip de generación anterior, pero aún se usa ampliamente en servidores de IA a nivel mundial, lo que permite entrenar grandes modelos de lenguaje y ejecutar chatbots. La nueva versión del H100 ofrece un rendimiento significativamente mayor y es muy solicitada por las grandes tecnológicas globales, lo que ha provocado su agotamiento. En Vietnam, solo grandes empresas tecnológicas como FPT y VNG poseen este servidor.

Por otro lado, ninguna fuente indica que OpenAI utilice un servidor con 480 GB de memoria, como anunció Pham Minh Huu Tien. Según los parámetros proporcionados por el farmacéutico Tien, ChatDST se ejecuta en una plataforma de 12 GPU Nvidia A100 de 80 GB, con un total de 960 GB de VRAM. El precio de mercado de cada una de estas tarjetas gráficas ronda los 700 millones de dongs, lo que equivale a una inversión de 8400 millones de dongs para este componente, sin incluir otros componentes.

Mientras tanto, una fuente de The Information afirmó que OpenAI posee un centro de datos con aproximadamente 350.000 tarjetas A100 para inferencia. Solo ChatGPT utiliza 290.000 GPU, 24.167 veces la configuración anunciada por el farmacéutico Tien. Además, esta empresa también alquila servidores Azure de Microsoft para reducir la carga cuando aumenta el número de usuarios.

Fuente: https://znews.vn/nvidia-khong-ban-chip-ai-cho-duoc-si-tien-post1569649.html