DeepSeek revela el secreto

DeepSeek revela cómo crearon un modelo de IA económico. Foto: Bloomberg .

En un informe de investigación publicado el 15 de mayo, DeepSeek compartió detalles por primera vez sobre cómo construyó uno de los sistemas de IA de código abierto más poderosos del mundo a una fracción del costo de sus competidores.

El estudio, titulado "Perspectivas sobre DeepSeek-V3: Desafíos de escalamiento y reflexiones sobre hardware para arquitecturas de IA", fue coautor del fundador, Liang Wenfeng. DeepSeek atribuye su éxito al diseño de hardware y software en paralelo, una estrategia distinta a la de muchas empresas que se centran en optimizar el software de forma aislada.

“DeepSeek-V3, entrenado con 2048 GPU Nvidia H800, demuestra cómo los diseños paralelos pueden abordar eficazmente estos desafíos, permitiendo un entrenamiento e inferencia eficientes a escala”, escribió el equipo en el artículo. DeepSeek y el fondo de cobertura High-Flyer se abastecieron de la línea de chips H800 antes de que Estados Unidos prohibiera su exportación a China en 2023.

El equipo de DeepSeek, consciente de las limitaciones del hardware y los “costos exorbitantes” del entrenamiento de modelos de lenguaje grandes (LLMs), la tecnología subyacente detrás de chatbots como ChatGPT de OpenAI, ha implementado una serie de optimizaciones técnicas que aumentan la eficiencia de la memoria, mejoran la comunicación entre chips y mejoran la eficiencia de toda la infraestructura de IA, según el documento.

Además, DeepSeek enfatiza el papel de la arquitectura del Modelo de Experto (MoE). Este método de aprendizaje automático divide un modelo de IA en subredes, cada una de las cuales procesa una parte independiente de los datos de entrada y trabaja en colaboración para optimizar los resultados.

MoE reduce los costos de entrenamiento y acelera la inferencia. Este método se ha adoptado ampliamente en la industria tecnológica china, incluyendo el último modelo Qwen3 de Alibaba.

DeepSeek fue noticia con el lanzamiento de su modelo básico V3 en diciembre de 2024 y su modelo de razonamiento R1 en enero. Estos productos causaron revuelo en los mercados globales, lo que contribuyó a una fuerte caída de las acciones de tecnologías relacionadas con la IA.

Aunque DeepSeek no ha revelado nuevos planes últimamente, ha mantenido el interés de la comunidad mediante la publicación de informes periódicos. A finales de marzo, la compañía lanzó una pequeña actualización de DeepSeek-V3 y, a finales de abril, lanzó discretamente su sistema Prover-V2 para el procesamiento de pruebas matemáticas.

Fuente: https://znews.vn/deepseek-tiet-lo-bi-mat-post1554222.html