Dreamforce: el debate sobre la seguridad de la IA choca con la realidad de los clientes
En la gran conferencia de Salesforce, los directivos debaten si la IA avanza demasiado rápido, mientras sobre el terreno los clientes admiten que les basta con modelos del año pasado y que aún van con retraso.
Salesforce ha vuelto a convertir su conferencia anual Dreamforce, celebrada esta semana en San Francisco, en el escaparate del sector del software. Un evento de 50.000 asistentes que hace más de una década se bautizó como la "Super Bowl del software". En los escenarios principales, el consejero delegado y cofundador de la compañía, Marc Benioff, conversó con los máximos responsables de los laboratorios de inteligencia artificial más potentes del momento, entre ellos Dario Amodei (Anthropic), Sam Altman (OpenAI) y Jensen Huang (Nvidia), y la conversación derivó hacia el encendido debate sobre la seguridad: si el desarrollo de estos modelos avanza demasiado deprisa. Huang, por ejemplo, animó a los laboratorios que van en cabeza a "correr tan rápido como puedan".
El contexto no era casual. Días antes del arranque del evento, un investigador de Anthropic dimitió y, al salir, afirmó que los principales laboratorios estaban "jugando con nuestras vidas". Aquello empujó a Amodei y a Altman a proponer iniciativas de seguridad y a defender un ritmo más pausado en la creación de nuevos modelos. Pero, paradójicamente, en los pasillos del evento la preocupación era la contraria: no la de que la IA avance demasiado, sino la de que cuesta lo suyo aprovechar lo que ya existe. "Ya es bastante difícil mantenerse al día", resumía Alec Bronston, director sénior de Salesforce en Spins, una empresa de datos de consumo con sede en Chicago. En su opinión, una hipotética ralentización sería incluso una oportunidad para "ponerse al día".
Esa es la sensación que trasladaron a CNBC varios clientes y socios de Salesforce: los modelos de IA más antiguos y baratos son más que suficientes para el trabajo del día a día en ventas y atención al cliente. Muchas empresas todavía están definiendo su presupuesto de IA y decidiendo si tiran de Anthropic o de OpenAI, o si optan por alternativas de código abierto más económicas. "Los modelos de frontera van muy por delante", señala Jaya Rohit Vuyyuru, vicepresidente de la consultora SummitX, que añade que buena parte de la base de clientes todavía está empezando y existe una brecha entre lo que la tecnología ya puede hacer y lo que las empresas aprovechan. En la feria, el stand más visitado el martes fue precisamente el de Anthropic, y sus empleados repartieron demostraciones entre los asistentes. Algunos clientes ya han adoptado las herramientas de Agentforce, la apuesta de Salesforce para responder a preguntas de servicio al cliente y consultas comerciales. Y hay un detalle revelador: para esos bots, según una página de soporte de la propia web de la compañía, Salesforce no se apoya en los modelos punteros del momento.
Ahí está el meollo. "La mayoría de los resultados de los agentes no vienen de capacidades de frontera", explica Tim Sanders, jefe de innovación de G2, una firma que analiza software. "Vienen de la IA del año pasado". Y añade que eso no es especialmente relevante ni para los proveedores de agentes ni, sobre todo, para el negocio del software como servicio. Kevin Lee, responsable de tecnología del fabricante de software para centros de contacto en la nube Nice, asegura que su compañía no depende de los modelos de gama alta para la mayoría de sus tareas: "Con los modelos que ya existen hoy, e incluso una generación por detrás, el rendimiento es muy alto y son eficaces para lo que necesitan nuestros clientes. Es casi como si todo lo que venga después fuera el colofón". Eso sí, nadie quiere vender corta la potencia de la IA: muchos directivos reconocen que ha supuesto un cambio profundo para su negocio.
El caso de Docusign, firma de firma electrónica que también exponía en Dreamforce, muestra que el reparto es más matizado. Su consejero delegado, Allan Thygesen, cuenta que utiliza "todos los grandes modelos de frontera y también algunos de pesos abiertos". Según su propia web, los modelos más potentes se reservan para trabajos que exigen juicio, como analizar cláusulas complejas, razonar sobre varios documentos a la vez o resumir, donde la capacidad de razonamiento general compensa un coste más alto por consulta. La pega es que estos modelos punteros suelen ser propietarios, lo que impide al cliente ver con qué datos se han entrenado o ajustarlos a su medida. Todo esto ocurre en un momento delicado para Salesforce, que ha pasado meses defendiendo que la IA acelera su negocio en lugar de amenazarlo y rebatiendo la narrativa del "SaaSpocalypse" (el supuesto fin del software tradicional). Sus acciones caen un 8% en lo que va de año, incluso después de un fuerte repunte en agosto y de presentar "Claudeforce", una forma de que los vendedores accedan a datos clave directamente desde el chatbot Claude de Anthropic. Otros nombres del software, como Adobe y Autodesk, caen bastante más.
El análisis de Salseo
- Para Salesforce, este mensaje es un balón de oxígeno en su guerra narrativa: si a los clientes les basta con modelos de hace un año, más baratos y que la compañía puede integrar sin depender del modelo más caro del mercado, el valor se desplaza del modelo al software que lo orquesta. La señal a vigilar es si las próximas cuentas muestran más uso de Agentforce sin que se disparen los costes por servir esa IA.
- Hay dinero escondido en esa brecha: los laboratorios cobran por una capacidad puntera que el cliente medio todavía no explota. Si lo que se compra es "suficientemente bueno", la carrera por el modelo más potente se monetiza peor de lo que sugiere el ruido. El riesgo para Anthropic u OpenAI no es que alguien les alcance, sino la presión a la baja en los precios.
- La paradoja del evento: los mismos que piden ir más despacio (Amodei, Altman) compiten por ir más rápido, mientras Huang les anima a esprintar. Y el discurso de seguridad llega justo cuando el cuello de botella no es la capacidad del modelo, sino la adopción de las empresas. Un freno voluntario cuesta menos de lo que parece y, de paso, funciona como buena prensa ante cualquier regulador.
- Cuidado con la lectura complaciente: que hoy baste el modelo del año pasado no significa que dure. Docusign ya reserva los modelos caros para decisiones complejas (cláusulas, razonamiento con varios documentos), que es donde el gasto vuelve a subir. Si los agentes pasan de tareas simples a flujos de decisión, el riesgo para Salesforce se da la vuelta: quedarse como la capa de las cosas fáciles.