ServiceNow presume de 'botón de apagado' para agentes de IA rebeldes
El CEO de ServiceNow defiende la relevancia de la compañía y anuncia un mecanismo de seguridad para detener agentes de IA que se salgan de control, en un momento clave para la adopción empresarial de la inteligencia artificial.
En un movimiento que busca calmar los temores sobre la inteligencia artificial autónoma, el CEO de ServiceNow, Bill McDermott, ha salido a defender el papel de su empresa en el ecosistema tecnológico. Durante una entrevista reciente, destacó una funcionalidad que están desarrollando: un 'kill switch' o botón de apagado de emergencia para agentes de IA que actúen de forma imprevista o peligrosa.
La idea es simple pero potente. A medida que las empresas delegan tareas cada vez más complejas en agentes de IA —desde gestionar incidencias de TI hasta automatizar flujos de trabajo enteros—, el riesgo de que uno de estos agentes tome una decisión equivocada o se descontrole crece. ServiceNow propone un mecanismo que permita a los humanos recuperar el control de inmediato, cortando la acción del agente antes de que cause daños.
McDermott enmarcó este anuncio dentro de una defensa más amplia de la relevancia de ServiceNow en un mercado donde la competencia en IA es feroz. La compañía, conocida por su plataforma de gestión de servicios en la nube, quiere posicionarse como un socio de confianza para las empresas que dan sus primeros pasos con agentes autónomos, ofreciendo no solo productividad, sino también seguridad y gobernanza.
El contexto no es casual. La industria tecnológica está inmersa en un debate sobre los límites de la IA agéntica, con voces que piden regulación y otras que aceleran el despliegue. ServiceNow, que ya integra capacidades de IA generativa en sus productos, busca diferenciarse con este enfoque pragmático: la IA como herramienta poderosa, pero siempre bajo supervisión humana.
Aunque no se dieron detalles técnicos sobre cómo funcionará exactamente este 'kill switch' ni cuándo estará disponible, el mensaje es claro. ServiceNow quiere que los inversores y clientes sepan que están pensando en los riesgos, no solo en las oportunidades, y que su plataforma está preparada para un futuro donde los agentes de IA serán tan comunes como las aplicaciones actuales.
El análisis de Salseo
- El anuncio del 'kill switch' es más un movimiento de relaciones públicas que una innovación técnica revolucionaria. La verdadera importancia está en que ServiceNow reconoce abiertamente los riesgos de la IA agéntica, lo que puede dar confianza a clientes corporativos que aún dudan en adoptar estos sistemas.
- Para los inversores, la clave es si esta funcionalidad se traduce en contratos. Si el 'kill switch' convence a grandes empresas de dar el salto a la automatización con ServiceNow, podría acelerar el crecimiento de ingresos en su división de IA, que es donde el mercado tiene puestas las expectativas.
- El tono defensivo de McDermott sugiere que la compañía siente la presión de competidores que están avanzando rápido en IA agéntica. Habrá que vigilar si ServiceNow logra mantener su cuota en gestión de servicios TI frente a rivales que integran agentes de forma más nativa, como Microsoft con Copilot o Salesforce con Einstein GPT.
- A largo plazo, el verdadero riesgo no es un agente rebelde, sino que la promesa de seguridad no sea suficiente si la tecnología subyacente no es tan buena como la de la competencia. El 'kill switch' puede ser un argumento de venta, pero no sustituye a la eficacia del agente.