Nvidia ficha en silencio para un equipo de seguridad en IA mientras apuesta por modelos abiertos
Nvidia está montando un nuevo equipo de seguridad en inteligencia artificial, según ofertas de empleo recientes, en pleno impulso por los modelos de código abierto y los agentes autónomos.
Nvidia está formando discretamente un nuevo equipo de ingeniería de seguridad para inteligencia artificial, según un grupo de ofertas de trabajo publicadas a finales del mes pasado. La compañía busca un ingeniero distinguido que ejerza como 'líder técnico fundador' de esta unidad recién creada, además de un ingeniero de investigación en seguridad, un ingeniero de evaluación y un gerente sénior.
Las responsabilidades del equipo incluyen evaluar agentes de IA antes de su despliegue y construir herramientas impulsadas por IA para parchear vulnerabilidades de software. Esta movida sugiere que Nvidia está dando más prioridad a la seguridad en IA, justo cuando apuesta fuerte por un futuro dominado por modelos de pesos abiertos y agentes autónomos. Los modelos de pesos abiertos hacen públicos los 'pesos' entrenados —que determinan su comportamiento—, aunque los datos de entrenamiento y el código fuente sigan siendo privados.
En los últimos meses, Nvidia ha intensificado su mensaje público a favor de los modelos de IA de pesos abiertos, en contraste con los sistemas cerrados de empresas como OpenAI y Anthropic. El CEO Jensen Huang publicó recientemente una carta instando a los legisladores estadounidenses a apoyar los modelos abiertos, argumentando que 'refuerzan la seguridad y la ciberseguridad'. Poco después, Nvidia anunció su incorporación como miembro fundador de la Open Secure AI Alliance, un grupo que desarrolla herramientas de seguridad de código abierto para IA.
La apuesta por los modelos abiertos y la seguridad no es solo filosófica: tiene incentivos comerciales claros. Los modelos abiertos ponen la IA en manos de muchos más clientes, lo que a su vez genera más demanda de los chips de Nvidia necesarios para hacerlos funcionar. Además, a medida que la IA pasa de los chatbots a agentes capaces de acceder a datos sensibles y ejecutar acciones en el mundo real, la confianza se vuelve clave para la adopción empresarial.
El equipo de seguridad se describe en una de las ofertas como 'basado en la firme creencia de que los modelos de pesos abiertos, la transparencia y el escrutinio científico amplio son fundamentales para el liderazgo estadounidense en IA y la defensa de la ciberseguridad'. Nvidia no ha respondido a las solicitudes de comentarios de Business Insider.
El análisis de Salseo
- La creación de este equipo de seguridad no es cosmética: Nvidia necesita que las empresas confíen en los agentes de IA para que usen sus chips masivamente. Si los agentes fallan o son vulnerables, se frena la adopción y, con ella, la demanda de hardware.
- El giro hacia modelos abiertos es una jugada estratégica: cuantos más desarrolladores y empresas usen modelos abiertos, más GPUs venderá Nvidia. Pero también asume el riesgo de que esos modelos sean más accesibles para actores maliciosos, de ahí que invierta en seguridad para mitigar críticas.
- La Open Secure AI Alliance, con miembros como Microsoft y Palantir, muestra que Nvidia quiere liderar el estándar de seguridad en IA abierta. Si logra imponer sus herramientas, podría crear un foso competitivo frente a quienes apuestan por modelos cerrados.
- Vigila las próximas contrataciones y los primeros proyectos del equipo: si logran automatizar la corrección de vulnerabilidades con IA, Nvidia podría vender seguridad como un servicio adicional, abriendo una nueva línea de ingresos recurrente más allá del hardware.