Benioff (Salesforce) avisa: la IA no puede convertirse en unas "redes sociales 2.0"
El consejero delegado de Salesforce pide a las empresas de inteligencia artificial que asuman la responsabilidad de lo que crean, justo cuando su compañía redobla su apuesta por la IA empresarial con Nvidia.
Marc Benioff, consejero delegado del gigante del software Salesforce, ha lanzado un aviso a la industria de la inteligencia artificial: no puede repetir lo que, a su juicio, hicieron mal las redes sociales durante la última década. En declaraciones a Yahoo Finance durante Dreamforce —la gran conferencia tecnológica anual que organiza la propia Salesforce—, Benioff aseguró que el sector "no puede dejar que la IA sea las redes sociales 2.0" y defendió que quienes construyen sistemas de IA potentes tienen que responder por lo que hacen esos productos.
Para argumentarlo, el directivo puso encima de la mesa los efectos que las redes sociales han tenido sobre los menores y sobre el debate público, como ejemplo de lo que ocurre cuando una tecnología se extiende más rápido de lo que las empresas tardan en abordar sus riesgos. Su propuesta pasa por un cambio de actitud: en lugar de tratar los efectos dañinos como un problema de otro, los ejecutivos deberían asumir la responsabilidad del software que publican. Y añadió un matiz interesante: quienes escriben el código son, al final, los que están en mejor posición para evitar consecuencias indeseadas. Ese mensaje gana peso a medida que los sistemas de IA son capaces de completar tareas con cada vez menos supervisión humana.
Ahora bien, advertir no significa frenar. Dreamforce sirvió precisamente para demostrar hasta qué punto la IA se ha convertido en el eje de la estrategia de Salesforce. La compañía presentó AIforce, una herramienta pensada para conectar su software y los datos de sus clientes con modelos de IA externos, y anunció Koa, un modelo de razonamiento centrado en la gestión de clientes (CRM) desarrollado junto al fabricante de chips Nvidia. Además, la empresa mantuvo su objetivo de crecer en torno a un 11 % anual hasta el ejercicio fiscal de 2030, y varios analistas salieron de la conferencia con mejor impresión sobre su hoja de ruta, menos preocupados por la idea de que los desarrolladores independientes de modelos puedan debilitar a las empresas de software tradicionales.
El debate, de hecho, es transversal a todo el sector. Por Dreamforce pasaron Dario Amodei (Anthropic) y Sam Altman (OpenAI), que expusieron sus propias inquietudes sobre una IA cada vez más capaz, y Mark Zuckerberg, consejero delegado de Meta, también ha terciado en la conversación sobre hasta dónde debe llegar esta tecnología y quién debe ponerle límites.
En el plano bursátil, la mayoría de los analistas que siguen a Salesforce mantiene una visión favorable sobre el valor, según los datos recopilados por TipRanks en los últimos tres meses. La noticia, en cualquier caso, no cambia las cuentas de la compañía: es un mensaje de posicionamiento sobre cómo debe desarrollarse la IA, acompañado de nuevos productos y de la reiteración de sus objetivos de crecimiento a medio plazo.
El análisis de Salseo
- El aviso de Benioff es también una jugada comercial: si las grandes empresas temen multas, mala prensa o problemas regulatorios por usar IA, comprarán soluciones a quien se presente como el proveedor "responsable". Ese discurso encaja mejor en el negocio corporativo de Salesforce que en el de las aplicaciones de consumo masivo.
- Koa, el modelo de razonamiento para CRM hecho con Nvidia, apunta a una idea clave: modelos pequeños y especializados, atados a los datos propios de cada empresa, en lugar de depender solo de los grandes modelos generalistas. Si funciona, Salesforce deja de ser un simple cliente de OpenAI o Anthropic y se queda con la capa donde está el dinero: los datos y el flujo de trabajo del cliente. Para Nvidia, es un nuevo tipo de cliente empresarial al que vender cómputo.
- La tensión de fondo es que Salesforce predica responsabilidad pero a la vez invita a OpenAI y Anthropic a su propio escenario: su tesis es que los modelos se están convirtiendo en algo parecido a una materia prima y que el valor está en la capa de aplicaciones. La prueba concreta que hay que vigilar es cuánto dinero real genera esa IA en sus resultados y si el objetivo de crecer cerca de un 11 % anual hasta 2030 se sostiene trimestre a trimestre.
- La lectura contraria: los discursos sobre ética y responsabilidad casi nunca cuestan dinero a corto plazo, y el riesgo real para Salesforce es otro. Que los agentes de IA hagan que las licencias por usuario del CRM pierdan sentido y el sector migre hacia un cobro por tareas realizadas. Ahí el modelo de negocio tradicional sí se resentiría, y es donde conviene fijarse en los próximos informes.