Jensen Huang, director ejecutivo de Nvidia. Foto: Reuters . |
Familiarizadas con el temor de ser aplastadas por Nvidia, muchas pequeñas empresas de IA están desmantelando proactivamente tecnologías antiguas antes de que la competencia más grande dé el salto. Así es como Tuhin Srivastava, cofundador de la plataforma de inferencia de IA Baseten, se prepara para responder cuando Nvidia lance su nueva plataforma.
"En IA, hay que quemar los barcos. Todavía no los hemos quemado, pero hemos comprado el queroseno", dijo Srivastava a Business Insider .
La historia comenzó a principios de este año, cuando el equipo de Srivastava trabajaba en el modelo de razonamiento DeepSeek R1. La implementación presentó dificultades debido a cuellos de botella en el proceso de razonamiento de la IA, lo que resultó en una respuesta lenta e ineficiente a los clientes.
Aunque Baseten tenía acceso al chip Nvidia H200 (el más avanzado en aquel momento), el software del servidor de inferencia Triton que lo acompañaba no gestionaba adecuadamente las solicitudes de inferencia complejas. Baseten se vio obligado a desarrollar su propio software para optimizar el proceso.
El pasado marzo, Jensen Huang, CEO de Nvidia, presentó Dynamo, una plataforma de inferencia de código abierto que optimiza el proceso de inferencia en los chips Nvidia. Huang describió a Dynamo como "el sistema operativo de la fábrica de IA".
![]() |
Jensen Huang habla en la Conferencia de Tecnología de GPU de Nvidia (GTC) en el SAP Center de San José, California, EE. UU. Foto: Reuters |
Con el lanzamiento de Dynamo, Srivastava sabía que la plataforma de Baseten pronto sería superada. Predijo que la transición al nuevo sistema le llevaría a su empresa varios meses.
"Estaba mentalmente preparado para esto", dijo.
No se trata solo de Nvidia; toda la industria del aprendizaje automático se desarrolla a un ritmo vertiginoso. Los modelos de IA son cada vez más complejos y requieren mayor potencia de procesamiento, pero también se vuelven obsoletos rápidamente a medida que los ingenieros encuentran algoritmos más optimizados.
"No puedes apegarte a un único marco o forma de hacer las cosas para siempre", comentó Karl Mozurkewich, arquitecto jefe de la empresa de computación en la nube Valdi.
Según Brown, YouTuber y desarrollador de IA, la IA ha transformado cosas que antes la industria tecnológica consideraba "invencibles" en cosas que son "fácilmente descartables".
Brown relata que, mientras trabajaba como ingeniero en Twitch, se enfrentó a una feroz oposición cuando propuso reescribir el proyecto en lugar de construir sobre la base anterior. "Tuve que aprender a actuar con rapidez antes de que alguien pudiera detenerme", dijo.
Esta es también la razón por la que las empresas emergentes de IA suelen ser más ágiles que las grandes corporaciones, que están limitadas por procesos obsoletos y costos de inversión.
Quinn Slack, director ejecutivo de la plataforma de codificación de IA Sourcegraph, sugiere que alrededor del 80% de las empresas Fortune 500 se dan cuenta de que su primera plataforma de IA necesita cambiar después de solo una reunión de una hora.
Sin embargo, no todos optan por "quemar los barcos".
Ben Miller, director ejecutivo de la plataforma de inversión inmobiliaria Fundrise, está desarrollando un nuevo producto de IA para su sector. Cree que si el modelo actual es lo suficientemente bueno, la empresa no se apresurará a adoptar uno nuevo.
"Me quedo con lo que funciona durante el mayor tiempo posible", dijo Miller, añadiendo que parte del motivo es que dirige una gran organización.
El pensamiento de Miller ilustra un acto de equilibrio común en la industria: entre la innovación continua y el mantenimiento de la estabilidad.
Mozurkewich enfatiza que una vez que un producto está muy cerca del consumidor, los beneficios de "ir rápido y romper cosas" disminuyen significativamente.
"No hay garantía de ganar más clientes o ingresos simplemente lanzando la función más avanzada", dijo.
En el mundo de la IA, donde la tecnología cambia cada mes, la elección entre innovación y sostenibilidad sigue siendo una gran pregunta sin una respuesta fija.
Fuente: https://znews.vn/cac-hang-ai-dang-tu-huy-de-tang-toc-post1549478.html







Kommentar (0)