AMD compra Taalas para plantar cara a Nvidia, pero Wall Street se llena de dudas
La adquisición de la startup de chips de IA Taalas refuerza la apuesta de AMD por la inferencia especializada, aunque los analistas se preguntan cómo encajará con su estrategia actual.
AMD ha dado un nuevo paso en su intento de recortar distancias con Nvidia. Este jueves anunció la compra de Taalas, una startup privada especializada en chips de inteligencia artificial, aunque no se han revelado los términos financieros del acuerdo. La operación refuerza la estrategia de AMD de construir una plataforma de IA de pila completa y le da acceso a la tecnología de inferencia especializada de Taalas, diseñada para reducir los cuellos de botella de memoria y computación que pueden limitar el rendimiento de la IA.
Taalas adopta un enfoque radicalmente diferente al diseño de chips de IA: incrusta los pesos del modelo directamente en el silicio, en lugar de moverlos repetidamente entre los procesadores y la memoria externa. Su primer chip, el HC1, fabricado con el proceso de 6 nm de TSMC, está optimizado para el modelo Llama 3.1 8B de Meta y combina memoria y computación en un solo chip, eliminando la necesidad de memoria de alto ancho de banda (HBM). Esto puede reducir los cuellos de botella de memoria y evitar costosas tecnologías de empaquetado avanzado como CoWoS y las pilas de memoria 3D.
La compañía afirma tener importantes ventajas de rendimiento en inferencia, citando 16.960 tokens por segundo por usuario para Llama 3.1 8B, frente a 594 para Nvidia y Groq y 1.981 para Cerebras en sus comparaciones. Estas cifras son afirmaciones de la propia Taalas. El enfoque trata esencialmente "el modelo como el ordenador", con los pesos del modelo incrustados permanentemente mediante memoria de solo lectura programada por máscara. Solo un pequeño número de capas necesita cambiar al adaptar el diseño a un nuevo modelo, lo que permite a Taalas producir chips personalizados con relativa rapidez.
Sin embargo, esa especialización es también el mayor inconveniente de la tecnología. Los MSIC (Circuitos Integrados Específicos del Modelo) están en gran medida dedicados a modelos individuales y ofrecen una programabilidad limitada, lo que dificulta su reutilización a medida que los modelos evolucionan. Taalas dice que puede sacar un nuevo chip personalizado en unos dos meses, pero la economía depende de que los clientes se comprometan a una escala suficiente, un reto creciente a medida que los modelos de IA se actualizan con más frecuencia.
AMD planea incorporar la tecnología de Taalas a su hoja de ruta de aceleradores junto a las GPU Instinct y Helios. La adquisición da a AMD exposición a una clase potencialmente importante de hardware de IA especializado, mientras que el próximo chip HC2 de Taalas apunta a modelos de razonamiento más grandes este verano, con modelos a escala frontera esperados para finales de año. Los analistas de Wells Fargo y William Blair ven la operación como estratégica, pero plantean dudas sobre cómo se posicionará Taalas dentro del portafolio de AMD y qué implicaciones tendrá para la reciente asociación con Cerebras.
El análisis de Salseo
- La compra de Taalas es una apuesta por la inferencia especializada, un terreno donde Nvidia aún no domina con claridad. Si AMD logra integrar esta tecnología sin canibalizar sus GPU Instinct, podría ofrecer una alternativa más barata y eficiente para cargas de trabajo muy concretas.
- El gran riesgo es la rigidez: los chips de Taalas están 'cableados' para un modelo específico (hoy Llama 3.1 8B). Si los modelos de IA evolucionan más rápido de lo que Taalas puede sacar nuevos chips, la ventaja económica se evapora. Es una carrera contra el reloj tecnológico.
- Las preguntas de los analistas sobre la asociación con Cerebras son la clave a vigilar. ¿AMD usará Taalas para competir con Cerebras o para complementar su oferta? La respuesta dirá si esta compra es una pieza más del puzle o un cambio de estrategia.
- El mercado no parece impresionado: la acción no ha reaccionado con euforia. Eso sugiere que los inversores ven la operación como una apuesta a largo plazo, no como un catalizador inmediato. El verdadero test será el lanzamiento del chip HC2 y si Meta u otros grandes clientes adoptan la tecnología.