Nvidia pone barandillas a los agentes de IA mientras la infraestructura sigue creciendo
Nvidia lanza una plataforma para que los agentes de IA no se salgan de sus límites y OpenAI frena el lanzamiento de GPT-6.1 Astra por motivos de seguridad. Al mismo tiempo, Samsung invierte 1.000 millones en infraestructura de IA: el sector construye, pero con más cortafuegos.
La fiebre de la IA está entrando en una fase distinta. En los primeros compases del boom, las empresas competían por demostrar todo lo que eran capaces de hacer sus modelos; ahora empiezan a mirar de reojo lo que esos modelos podrían llegar a hacer sin control. Nvidia ha presentado una plataforma de software para evitar que los agentes de IA se comporten de forma indebida, mientras que OpenAI ha decidido no lanzar su esperado modelo GPT-6.1 Astra precisamente por las crecientes preocupaciones de seguridad.
La herramienta de Nvidia se llama Open Agent Safety Platform y se dio a conocer el lunes. Se trata de un sistema de contención: el agente solo puede acceder a aquello que necesita para hacer su trabajo y nada más. La compañía asegura que esta plataforma habría evitado el incidente que OpenAI sufrió en julio con la plataforma de desarrollo de código abierto Hugging Face. En paralelo, la carta de riesgos del folleto de salida a bolsa de Anthropic —filtrada a los medios— incluye un aviso poco habitual: la IA avanzada podría representar riesgos «catastróficos o existenciales para la humanidad». La empresa admite que sus modelos podrían mostrar comportamientos de autopreservación, como resistirse a ser apagados, ocultar o manipular información, o actuar de formas que recuerdan al chantaje. Según Reuters, Anthropic dedica unas 80 páginas de las 261 del cuerpo principal del folleto a factores de riesgo, frente a 48 páginas que describen su negocio.
Que los creadores pongan barreras no significa que la maquinaria se detenga. Samsung Electronics y sus filiales anunciaron el martes una inversión conjunta de 1.000 millones de dólares en Helix Digital Infrastructure, una empresa de infraestructura de IA lanzada por la gestora de inversiones KKR y respaldada por Nvidia. Helix quiere atacar la creciente competencia del mercado con una doble apuesta: el despliegue de centros de datos y la infraestructura energética que hace falta para alimentarlos. Es decir, el sector sigue construyendo, pero con más cortafuegos.
El panorama macroeconómico añade otra capa de interés. El banco central de Australia subió el martes los tipos de interés hasta el 4,6 %, su nivel más alto en 15 años, y dejó la puerta abierta a nuevas subidas. Entre los motivos que esgrime, dos llaman la atención: el conflicto en Oriente Medio ha ampliado su alcance y los precios globales de la energía están mucho más altos de lo que se había asumido, y la demanda relacionada con la IA está provocando subidas rápidas de precio en los bienes tecnológicos.
En el resto del tablero, la cadena china de café Luckin estudia expandirse por Oriente Medio tras una operación de unos 1.000 millones de dólares que implicó al fondo soberano de Abu Dabi, Mubadala, y a Centurium Capital, el accionista de control de la compañía. Su consejero delegado, Jinyi Guo, señala que el atractivo del Golfo está en una demanda de café estable y de alta frecuencia, y en la preferencia creciente por bebidas bajas en azúcar y saludables. Y en China, el regulador de valores está endureciendo los requisitos para que las startups de robots humanoides salgan a bolsa, según tres fuentes conocedoras del asunto: una señal de que uno de los sectores más calientes del mercado se está enfriando, justo cuando los inversores de todo el mundo se preguntan si las acciones de IA están en una burbuja.
El análisis de Salseo
- Nvidia no está vendiendo aquí ni chips ni modelos, sino las reglas del terreno de juego. Cuantos más agentes de IA se desplieguen dentro de empresas, más importa quién controla los límites de lo que pueden hacer: si su plataforma se convierte en el estándar, Nvidia refuerza la dependencia de su ecosistema más allá del hardware.
- La carta de riesgos de Anthropic no es un farol, es el manual con el que una compañía de IA se prepara para cotizar. Dedicar 80 páginas a riesgos frente a 48 a negocio anticipa dos cosas: más presión regulatoria futura y más costes de cumplimiento para todo el sector, no solo para ella.
- Los 1.000 millones de Samsung en Helix apuntan al verdadero cuello de botella de la IA: ya no son los chips, sino la energía y los centros de datos. La señal a vigilar no son los pedidos de GPU, sino los anuncios de capacidad eléctrica y de suelo para data centers: si eso se atasca, el crecimiento se frena aunque la demanda siga ahí.
- El detalle que casi nadie comenta: Australia sube tipos, entre otras cosas, porque la demanda de IA está encareciendo los bienes tecnológicos. La IA empieza a aparecer como factor inflacionario; si otros bancos centrales lo asumen, el dinero barato del que depende todo el sector podría tensionarse.