Nvidia pone en producción su chip Groq 3 LPX tras la compra de 20.000 millones
Nvidia anuncia que su chip Groq 3 LPX, fruto de su mayor adquisición, ya está en producción y se desplegará este año en la nube de Nebius. La compañía apuesta por la inferencia de baja latencia para hacer más ágiles a los agentes de IA, especialmente en programación.
Nvidia ha anunciado que su chip Groq 3 LPX ya está en producción completa, lo que supone la comercialización de la tecnología adquirida en su mayor compra hasta la fecha: los 20.000 millones de dólares que pagó en diciembre por activos de la startup Groq. El rack con estos chips se desplegará junto a los procesadores centrales Vera y las GPU Rubin en el neocloud Nebius, y estará operativo a finales de este año, según confirmó Dion Harris, director sénior de Nvidia, en una rueda de prensa.
La prisa por fabricar y poner a disposición de los clientes este chip refleja la creciente importancia de la inferencia de baja latencia, es decir, la capacidad de un modelo de IA para responder casi al instante, sin esperas que rompan la experiencia del usuario. Esto es clave para los agentes de IA, sobre todo en tareas de programación, donde un retraso de milisegundos se nota. Nvidia asegura que las empresas de nube pueden cobrar más por este tipo de tokens, lo que abre la puerta a niveles de servicio premium para clientes que exigen la máxima velocidad.
La arquitectura de Groq incluye 500 megabytes de SRAM ultrarrápida en el propio chip para reducir los cuellos de botella de memoria. Los chips Groq los fabrica Samsung, mientras que TSMC produce las GPU de Nvidia. Cada rack LPX integra 256 chips Groq 3 y, según el benchmark de Artificial Analysis, es capaz de ofrecer 3.400 tokens por segundo. Esta cifra contrasta con los 750 tokens por segundo que promete el modo Ultrafast de OpenAI, impulsado por chips de Cerebras, la compañía que salió a bolsa recientemente y con la que AMD también ha anunciado integraciones para competir en este nicho.
Nvidia insiste en que estos chips de baja latencia no sustituyen a las GPU, que siguen siendo el caballo de batalla para entrenamiento e inferencia general. "No se trata de reemplazar las GPU, sino de usar el procesador adecuado para cada parte del trabajo", explicó Harris. Mientras tanto, la compañía acelera el envío de sus sistemas Vera Rubin, que ya están en producción. Su CEO, Jensen Huang, proyectó ventas acumuladas de 1 billón de dólares entre los chips Blackwell y los nuevos Vera Rubin hasta 2027, y ya ha dicho que destinará una cuarta parte del espacio de su centro de datos para aplicaciones de programación a los chips Groq. Nvidia presenta resultados el miércoles, y esta noticia llega justo antes de esa cita con el mercado.
El análisis de Salseo
- La puesta en producción del Groq 3 LPX demuestra que Nvidia no solo compra tecnología, sino que la integra rápido en su oferta. Esto le permite atacar el nicho de inferencia de baja latencia, donde las GPU tradicionales no son óptimas, y defenderse de rivales como Cerebras o AMD.
- El rendimiento de 3.400 tokens por segundo frente a los 750 de OpenAI es una ventaja clara, pero el mercado no se decide solo por velocidad: el ecosistema, el precio y la facilidad de integración pesan. Habrá que ver si los clientes pagan la prima que Nvidia espera por estos tokens premium.
- El despliegue en Nebius es un movimiento estratégico: convierte a un neocloud en cliente de referencia y valida la tecnología en un entorno real. El siguiente paso será ver si otros grandes proveedores de nube adoptan los racks, algo que podría anunciarse en los próximos trimestres.
- Que Huang reserve una cuarta parte de su centro de datos para Groq en tareas de programación indica que Nvidia ve en el código el caso de uso más claro para la baja latencia. Pero es un segmento concreto: el impacto en los ingresos totales de Nvidia será limitado a corto plazo, aunque refuerza su posición frente a competidores especializados.