Nvidia quiere ponerle correa a la IA: lanza una plataforma para que los agentes no se desmadren
Jensen Huang presenta una plataforma de software para evitar que los agentes de IA actúen sin control y defiende que todo lo que rodea a la IA se diseñe con permisos restringidos.
Jensen Huang, consejero delegado de Nvidia, ha aprovechado su intervención en el programa 'Squawk Box' de la CNBC para presentar el despliegue de una nueva plataforma de software con la que la compañía quiere evitar que los agentes de inteligencia artificial 'se porten mal'. El directivo no se ha quedado solo en el anuncio del producto: ha defendido que todos los sistemas que rodean a la inteligencia artificial deben diseñarse con derechos restrictivos, es decir, con permisos limitados por defecto en lugar de con barra libre.
Para entender el asunto hay que saber qué es un agente de IA. Frente a un 'chat' que solo escribe respuestas, un agente es un programa al que se le da una tarea y la ejecuta por su cuenta: consulta datos, entra en herramientas de la empresa, manda correos, hace pedidos o mueve información de un sitio a otro. Esa autonomía es justo lo que le da valor, pero también lo que da miedo. La idea que plantea Huang es la del empleado nuevo al que no se le entregan las llaves de toda la oficina el primer día: el sistema que le da acceso a las herramientas y a los datos debe concederle solo los permisos imprescindibles para su tarea y nada más. Así, si el agente se equivoca o alguien lo manipula, el daño queda acotado.
El movimiento encaja en una estrategia que Nvidia lleva tiempo cultivando: la compañía ya no es solo el fabricante de los chips que entrenan y ejecutan la inteligencia artificial, también vende el software y las herramientas con las que las empresas montan todo esto. Y ahí está la clave de por qué le interesa ser quien ponga las reglas de circulación. Si las compañías construyen sus agentes sobre la capa de seguridad de Nvidia, cambiar de proveedor deja de ser tan sencillo como cambiar un componente: hay que rehacer la fontanería completa. El software, cuando se integra en el día a día, ata mucho más que el hardware.
Hay además un motivo nada altruista detrás del discurso de la seguridad. Los agentes están pasando de las demostraciones bonitas a hacer tareas reales, y un solo incidente sonado puede hacer que las empresas frenen en seco sus proyectos de inteligencia artificial. Eso terminaría afectando a la demanda de los chips que vende Nvidia. Dicho de otra forma: poner límites a los agentes es también una manera de proteger el negocio. La pregunta abierta es si esa correa no aprieta demasiado y acaba limitando precisamente la autonomía que dispara el consumo de potencia de cálculo, o si, por el contrario, la confianza es lo que hace que las empresas se atrevan a desplegar agentes a gran escala. La respuesta la darán los próximos meses, con los anuncios de compañías que se suban a la plataforma y con el pulso que mantienen los grandes proveedores de nube, que también quieren que los agentes de sus clientes vivan dentro de su propio ecosistema.
El análisis de Salseo
- El negocio real aquí no es el chip, es la capa de software. Si las empresas diseñan sus agentes sobre las herramientas de seguridad de Nvidia, cambiar de proveedor implica rehacer toda la integración, no solo sustituir un componente. Eso genera unos ingresos más recurrentes y difíciles de desbancar que la venta de hardware, que va por pedidos y ciclos.
- La seguridad es aquí una forma de proteger la demanda. Un incidente serio con un agente haciendo de las suyas en una empresa grande bastaría para que muchas otras congelaran sus proyectos de IA, y eso se traduciría directamente en menos pedidos de chips. Hablar de límites y permisos restringidos también es una manera de que el negocio no se descarrile.
- Hay una tensión de fondo que el titular no cuenta: los agentes más autónomos son precisamente los que más capacidad de cálculo consumen. Si la plataforma de Nvidia es muy restrictiva, los agentes harán menos cosas y quemarán menos chips a corto plazo. El envite es que la confianza que genera esa contención acelere el despliegue masivo más adelante.
- Señal concreta a vigilar: qué empresas anuncian que construyen sus agentes sobre esta plataforma y si los reguladores acaban tomando estándares privados como referencia. Si eso ocurre, Nvidia no solo vende la infraestructura, también marca las normas del terreno de juego frente a los grandes proveedores de nube, que pelean por lo mismo.