Huang (Nvidia) y Amodei (Anthropic) chocan en Dreamforce sobre la seguridad de la IA
Los dos consejeros delegados defendieron posturas opuestas sobre si conviene frenar el desarrollo de la inteligencia artificial, en un cara a cara celebrado en la conferencia de Salesforce en San Francisco.
Dos de las voces más influyentes del sector tecnológico subieron al mismo escenario en el Dreamforce de Salesforce, en el centro Moscone de San Francisco, y dejaron claro que no piensan igual sobre cómo debe crecer la inteligencia artificial. Dario Amodei, consejero delegado y cofundador de Anthropic, la empresa detrás del chatbot Claude, y Jensen Huang, consejero delegado de Nvidia, la compañía más valiosa del mundo, compartieron escenario por separado con Marc Benioff, máximo responsable de Salesforce, ante unas 12.000 personas.
Amodei fue el primero en hablar, apenas unos días después de publicar un ensayo en el que pedía a la industria que baje el ritmo al que desarrolla nuevos modelos de IA. En su intervención defendió que marcar un paso más pausado es la forma de liderar el sector y de dar ejemplo. Su propuesta, articulada en tres pasos, busca moderar la velocidad a la que mejoran las capacidades de los modelos sin renunciar a la ventaja comercial ni al liderazgo de Estados Unidos en esta tecnología. La idea llegó después de que varios investigadores lanzaran una alerta sobre el riesgo de que la IA cause daños catastróficos, y recibió el respaldo rápido de nombres como Sam Altman (OpenAI), Elon Musk (SpaceX) y Demis Hassabis (Google DeepMind).
Huang, que salió después junto a Benioff, no comparte ese enfoque. El directivo de Nvidia sostiene que las fuerzas del mercado ya actúan por sí solas y que no hacen falta leyes ni regulaciones nuevas. A su juicio, ir rápido y hacerlo de forma segura no son objetivos excluyentes: «Es una falsa elección», dijo, antes de matizar que la responsabilidad recae en quienes desarrollan los modelos. Su receta es correr todo lo posible, pero parar y revisar si en algún momento la empresa pierde el control o el producto no va a ser seguro. Estas declaraciones llegan un día después de que Huang participara en el All-In Summit de Los Ángeles y atendiera por teléfono al presidente Donald Trump, que expresó su preocupación por quienes intentan bloquear la construcción de centros de datos de IA y al que el directivo respondió que no se lo van a permitir.
Más allá del debate, el Dreamforce es desde hace más de una década uno de los grandes escaparates del negocio del software, con unos 50.000 asistentes en el centro de San Francisco, y sirvió también para anunciar acuerdos. Salesforce y Nvidia presentaron un nuevo modelo de razonamiento para la plataforma Agentforce de Salesforce, construido sobre uno de los modelos abiertos Nemotron de Nvidia. A finales del mes pasado, Salesforce y Anthropic ya habían ampliado su alianza estratégica con el lanzamiento de «Claudeforce», una vía para que los equipos de ventas accedan a datos clave directamente desde el chatbot Claude. Benioff, por su parte, se mostró conciliador sobre el ritmo de desarrollo: que cada compañía decida si acelera o frena, dijo a los periodistas, y que después rinda cuentas.
El resultado es un sector que aún no ha cerrado el debate sobre cómo autorregularse mientras sigue firmando alianzas cruzadas entre los mismos protagonistas que discrepan en público. Para el inversor, la clave no está tanto en el titular del cara a cara como en lo que se cuece por debajo: qué modelos y qué plataformas acaban imponiéndose en el software empresarial y cuánta capacidad de cómputo exige eso.
El análisis de Salseo
- Cada postura encaja con el negocio de quien la defiende. Nvidia vende la infraestructura con la que se entrenan los modelos: cuantos más proyectos avancen y más rápido, más chips se piden. Anthropic ya tiene modelos punteros en el mercado, así que unas reglas que frenen a los que vienen por detrás le sientan mejor que una carrera libre sin frenos.
- El argumento de Huang de que «el mercado ya regula» es una defensa indirecta de su propia demanda. Si en Estados Unidos cuajaran normas más estrictas sobre seguridad de la IA, la consecuencia práctica sería menos entrenamientos, menos pedidos de GPUs y más dudas sobre el crecimiento. Por eso no es un debate filosófico: es una discusión sobre el volumen de negocio futuro.
- Lo más concreto del evento no fue el discurso, sino los acuerdos: Salesforce y Nvidia lanzaron un modelo de razonamiento para Agentforce apoyado en Nemotron, un modelo de pesos abiertos de Nvidia. Regalar la tecnología del modelo para que el software empresarial la adopte como estándar es una forma de asegurar que detrás se sigan vendiendo los chips. Ahí está la verdadera apuesta estratégica.
- Señal a vigilar: si el pulso entre los partidarios de frenar y los de acelerar se traslada a normas reales o a trabas para construir centros de datos. De momento la Casa Blanca ya se ha alineado con los que quieren levantar infraestructura sin obstáculos, lo que deja la presión regulatoria más en el terreno de las declaraciones que en el de los hechos.