Benioff (Salesforce) se suma al aviso de los líderes tecnológicos sobre los riesgos de la IA
El consejero delegado de Salesforce advierte en Dreamforce de que la IA no debe repetir los errores de las redes sociales, pero evita pedir que se frene su desarrollo. El mercado de software empresarial respira tras el debate sobre la seguridad de la IA.
Marc Benioff, consejero delegado de Salesforce, se ha convertido en el último gran nombre de la tecnología en reclamar responsabilidad a la industria de la inteligencia artificial. Lo hizo este martes, en una entrevista con Jim Cramer para el programa Mad Money, grabada en los márgenes de Dreamforce, el gran evento anual de la compañía en San Francisco. Sus palabras llegan en plena discusión sobre la seguridad de la IA, avivada el pasado fin de semana por un ensayo de Dario Amodei, consejero delegado de Anthropic, en el que pedía a los laboratorios de IA de frontera que ralenticen el ritmo de desarrollo de nuevos modelos para dar tiempo a que las medidas de seguridad se pongan al día.
El argumento de Benioff no es nuevo en él: lleva años siendo un crítico declarado del impacto social de las redes sociales. En 2018 llegó a decir que "Facebook son los nuevos cigarrillos" y pidió más regulación pública para el sector. Ahora usa ese mismo ejemplo como aviso para la IA. "Muchas empresas salieron dañadas y muchas personas salieron dañadas por las redes sociales", dijo a Cramer. "No queremos que eso pase con la IA". Y añadió una idea que resume su postura: "el corazón de la ética es la responsabilidad".
El matiz importante es que Benioff no critica a las empresas que desarrollan IA ni respalda las peticiones de frenar el ritmo de creación de modelos. Pide que quienes construyen la tecnología asuman las consecuencias, pero sin dejar de avanzar. Y ahí hay mucho en juego para Salesforce, porque su negocio depende de que la IA siga expandiéndose: el mes pasado presentó Claudeforce, una herramienta que permite a sus clientes usar el modelo Claude, de Anthropic, para explotar los datos que guardan en Salesforce y hacer tareas como redactar correos o actualizar registros. Este mismo martes, Amodei subió al escenario durante la ponencia de Benioff y afirmó que ese es el camino para liderar la industria: dar ejemplo y reconocer que siempre se puede mejorar.
Los inversores también han reaccionado a este debate. El lunes, las acciones del software empresarial se dispararon después de que Amodei pidiera moderar el desarrollo de la IA, una lectura que el mercado interpretó como menos competencia disruptiva para el sector. Salesforce avanzó más de un 4,5% ese día y el martes devolvió parte de esa subida. La compañía acumula una revalorización superior al 50% desde su mínimo de 52 semanas de 146 dólares, tocado a finales de junio. El grupo había sido castigado a comienzos de año por el miedo a que la IA se comiera su negocio, pero en los últimos meses se ha recuperado conforme Wall Street se convence de que la IA no puede sustituirlo todo.
El análisis de Salseo
- El mensaje de Benioff suena a advertencia, pero también es estrategia comercial: Salesforce vende IA a empresas que necesitan fiarse de ella y cumplir normativas. Si el jefe de Salesforce se coloca como el proveedor "ético" del sector, gana puntos ante clientes con departamentos legales y de riesgos cada vez más exigentes.
- Ojo al matiz que separa a Benioff de Amodei: el primero no pide frenar el desarrollo, solo hacerlo con responsabilidad. Tiene lógica, porque frenar la IA recortaría directamente el mercado de Salesforce. Su discurso pone el foco en el "cómo", no en el "cuánto" ni en la velocidad.
- Salesforce no desarrolla sus propios modelos de frontera: se apoya en terceros como Anthropic, cuyo modelo Claude alimenta su herramienta Claudeforce. Eso le da agilidad y le mantiene un paso alejado del foco regulatorio directo, pero también le hace depender de socios cuyo ritmo y cuyas decisiones no controla.
- La pista a vigilar es la reacción del mercado: el lunes el software empresarial subió con el llamamiento a moderar la IA, porque se leyó como "menos competencia disruptiva", y el martes Salesforce devolvió parte del terreno. Cualquier propuesta regulatoria concreta será el catalizador real, y si la IA recorre el mismo camino que las redes sociales, las grandes compañías con más recursos legales serán las que mejor encajen las normas.