¿Es la IA del farmacéutico Tien realmente “mejor que ChatGPT”?

El Sr. Pham Minh Huu Tien anunció que el chatbot de IA tiene mejores parámetros que ChatGPT. Sin embargo, muchos de los datos proporcionados aún son imprecisos e ilógicos.

El farmacéutico Tien (Pham Minh Huu Tien) lanzó una IA llamada ChatDST. Foto: DST .

El 14 de julio, el farmacéutico Tien publicó un video en redes sociales presentando varios de los productos de la compañía. Entre ellos, el chatbot de IA ChatDST atrajo la atención con la declaración del presentador, quien afirmó que era "mejor que ChatGPT".

Esta información causó controversia porque el Sr. Tien y la organización que lo respaldaba trabajaban en las industrias de la cosmética y el entretenimiento y carecían de experiencia en tecnología. Mientras tanto, ChatGPT de OpenAI, en el que se han invertido cientos de miles de millones de dólares y se ha desarrollado durante muchos años, sigue siendo un producto líder en el mercado en muchos aspectos.

Declaración del farmacéutico Tien

“Casi todos los parámetros de Tien superan la inteligencia artificial que utilizan actualmente. Tien les revelará que este parámetro es bastante alto en el mercado”, declaró Pham Minh Huu Tien (farmacéutico Tien) durante el lanzamiento.

Parámetros del chatbot ChatDST proporcionados por el farmacéutico Tien. Foto: Pham Minh Huu Tien.

El ejemplo que esta persona usó para comparar fue la capacidad de VRAM. Pham Minh Huu Tien afirmó que el sistema que construyeron tenía el doble de memoria que ChatGPT (960 GB en comparación con 480 GB). "Además, también tiene tu personalidad, incorporada en los datos de la industria química y cosmética, lo cual será muy útil para quienes trabajan en este campo", dijo el Sr. Tien.

Además, los parámetros en la pantalla de presentación también muestran que esta plataforma puede generar 2000 tokens por segundo. Su arquitectura combina seis modelos de IA para aumentar el rendimiento. ChatDST garantiza un funcionamiento estable el 99,95 % del tiempo, procesando contextos de hasta un millón de tokens.

En particular, el presentador también mencionó que este chatbot tiene memoria ilimitada para cada sesión. El farmacéutico Tien anunció que esta solución se lanzará en octubre y que los usuarios deben pagar para usarla, con un precio de entre 20 y 300 USD . Sin embargo, el video del evento de lanzamiento ya no está disponible en YouTube.

Parámetros anormales

Por ahora, el proyecto que anunció el farmacéutico Tien aún está en fase preliminar, sin una versión de prueba ni informes detallados sobre el código fuente ni su funcionamiento. La información actual solo incluye parámetros básicos, junto con la afirmación de que ChatDST tiene una configuración superior a ChatGPT, una de las mejores del mercado.

Sin embargo, esta información también es vaga y, en gran parte, absurda e imposible.

Hablando con Tri Thuc - ZNews , el Sr. NB, maestro en tecnología de la información, desarrollador de productos de inteligencia artificial, dijo que había información errónea en la declaración del farmacéutico Tien.

La fábrica de inteligencia artificial de 40 mil millones de dólares de OpenAI se está construyendo en Texas, EE. UU. Foto: Data Center Dynamic.

Por ejemplo, el Sr. Tien afirmó que ChatDST se desarrolló en la plataforma Llama con 403 mil millones de neuronas. De hecho, los modelos de lenguaje grandes utilizan parámetros para referirse a dominios de datos en lugar de neuronas. Al mismo tiempo, Llama fue desarrollado por Meta, que publicó código fuente abierto, y solo tenía una versión de 405 mil millones de parámetros, no de 403 mil millones.

Por otro lado, ninguna fuente indica que OpenAI utilice un servidor con 480 GB de memoria, como anunció Pham Minh Huu Tien. Según los parámetros proporcionados por el farmacéutico Tien, ChatDST se ejecuta en una plataforma de 12 GPU Nvidia A100 de 80 GB, con un total de 960 GB de VRAM. El precio de mercado de cada una de estas tarjetas gráficas ronda los 700 millones de VND, lo que equivale a una inversión de 8400 millones de VND para este componente.

Mientras tanto, una fuente de The Informatio n afirmó que OpenAI posee un centro de datos con aproximadamente 350.000 tarjetas A100 para inferencia. Solo ChatGPT utiliza 290.000 GPU, 24.167 veces la configuración anunciada por el farmacéutico Tien. Además, esta empresa también alquila el servidor Azure de Microsoft para reducir la carga cuando aumenta el número de usuarios.

Se estima que OpenAI debe pagar unos 100.000 USD ( 2.600 millones de VND ) por cada día de operación. Por lo tanto, el costo operativo de cuatro días de esta empresa supera el costo de la configuración de los 12 chips A100 que el farmacéutico Tien utilizó en ChatDST.

El Llama 405B ocupa al menos 810 GB de VRAM para alojar el modelo funcional. Imagen: HuggingFace.

Según HuggingFace , los 405 mil millones de parámetros de Llama requieren al menos 810 GB de almacenamiento. Por lo tanto, el servidor del Sr. Tien solo dispone de 150 GB libres para procesar los cálculos cuando los usuarios chatean. Esta cantidad de VRAM es suficiente para que de 1 a 3 clientes chateen simultáneamente. Incluso reduciendo la precisión del modelo para reducir el consumo de recursos, el número de usuarios que atienden de 3 a 9 cuentas simultáneamente.

La velocidad de procesamiento de ChatDST, de 2000 tokens/s, también es un parámetro inimaginable en la industria. Actualmente, ChatGPT solo produce entre 50 y 100 tokens/s, según el modelo, lo que sobrecarga el sistema. Claude también solo alcanza entre 40 y 80 tokens/s.

Fuente: https://znews.vn/ai-cua-duoc-si-tien-co-thuc-su-hon-chatgpt-post1569417.html