Producto

Nvidia recorta costes de IA a un tercio con su nuevo router Switchyard

·PositivoImpacto medio
Nvidia recorta costes de IA a un tercio con su nuevo router Switchyard

Nvidia presenta Nemotron 3.5 Lightning y NeMo Switchyard, una combinación que promete mantener el rendimiento de modelos punteros reduciendo drásticamente el gasto en tareas de IA.

Nvidia ha lanzado un doble golpe sobre la mesa del coste en inteligencia artificial. Por un lado, presenta Nemotron 3.5 Lightning, un modelo de código abierto con 30.000 millones de parámetros y arquitectura de mezcla de expertos, pensado para tareas de alto volumen y especializadas. Por otro, NeMo Switchyard, una biblioteca también abierta que actúa como un director de tráfico inteligente: decide en tiempo real qué modelo —de entre los disponibles— es el más adecuado para cada paso de un flujo de trabajo, sin que el desarrollador tenga que programar reglas fijas.

La promesa es ambiciosa. Según las pruebas de la propia compañía, Lightning es hasta cuatro veces más rápido que modelos de su clase y completa tareas de agente un 30% más veloz que Qwen3.6-35B con una precisión equivalente. Pero la magia está en el tándem: usando Switchyard para encaminar cada subtarea al modelo óptimo, Nvidia asegura que se mantiene un rendimiento de nivel frontera mientras el coste se desploma a aproximadamente un tercio de lo que costaría usar solo Opus 4.8.

El movimiento llega en un momento de máxima efervescencia en el mundo de los modelos abiertos. Firmas chinas como Alibaba, Moonshot, Zhipu y DeepSeek han lanzado modelos competitivos en los últimos meses, a menudo igualando a los mejores estadounidenses pero con menor tamaño o precio. Meta también metió presión con Muse Glimmer, su propio modelo abierto de 30.000 millones de parámetros para agentes. Nvidia no llega a un terreno vacío, sino a una carrera donde el código abierto ya es casi un requisito mínimo.

La clave no es el modelo ni el router por separado, sino la combinación. Switchyard no compite directamente con pasarelas como OpenRouter o LiteLLM, sino que se integra con ellas. Su valor diferencial es que puede evaluar el estado del agente en cada paso —si una herramienta devuelve un error, si la tarea resulta trivial— y redirigir la consulta al modelo más barato o más potente según convenga. Incluso tiene en cuenta la "verbosidad" del modelo, es decir, cuántos tokens tiende a generar, para anticipar el coste antes de hacer la llamada.

Los primeros datos de empresas que lo han probado son llamativos. LangChain reportó un ahorro del 74% en costes para 145 tareas complejas, enrutando solo el 7% de las llamadas a un modelo frontera, con una pérdida de precisión de apenas el 6%. Ramp igualó el rendimiento de un modelo puntero en su benchmark interno reduciendo costes un 58% y el tiempo de ejecución un 33%. Cognition, creadores de Devin, integró Switchyard y recortó el coste medio un 28% manteniendo un rendimiento casi de frontera.

El análisis de Salseo

  • Nvidia no solo vende chips: está construyendo la capa de software que decide cómo se usan los modelos, y al ser abierta, aspira a convertirse en el estándar de facto para el enrutamiento inteligente en agentes de IA.
  • El ahorro de costes es real, pero ojo: las cifras son de pruebas internas y de socios seleccionados. La verdadera prueba será ver si esos porcentajes se mantienen en entornos de producción masivos y con flujos de trabajo impredecibles.
  • La integración con pasarelas existentes como OpenRouter y Kong es un acierto estratégico: no obliga a cambiar de herramientas, lo que acelera la adopción. Si Switchyard se vuelve ubicuo, Nvidia tendrá una posición privilegiada para influir en qué modelos se usan y cómo se paga por ellos.
  • La presión competitiva de los modelos chinos y de Meta está forzando a Nvidia a jugar la carta del 'sistema completo' en lugar de solo hardware. Esto puede acelerar la adopción de agentes de IA al bajar la barrera económica, pero también diluye la ventaja de quien solo tenga el modelo más potente.

Empresas mencionadas

Fuente: VentureBeat