Anthropic pide frenar la IA y Nvidia acelerar: choque de visiones en San Francisco
Dario Amodei (Anthropic) reclama una pausa en el desarrollo de la inteligencia artificial y Jensen Huang (Nvidia) responde con un "corred todo lo que podáis": el debate sobre la seguridad de la IA se convierte en una guerra abierta entre gigantes del sector.
El martes, en la convención Dreamforce que Salesforce celebra en San Francisco, dos de los directivos más influyentes del sector tecnológico chocaron abiertamente sobre el mismo asunto: a qué velocidad debe avanzar la inteligencia artificial. Dario Amodei, consejero delegado de Anthropic, reiteró su llamamiento a frenar el ritmo de desarrollo y lo ilustró con una comparación automovilística: cuando una marca rival sufre un incidente de seguridad, como un fallo de frenos, es el momento de que todas las demás revisen sus propios procedimientos. "Es muy tentador atacar al competidor y decir que estos son peligrosos", señaló, "pero creo que la forma más responsable de responder es mirar nuestro propio historial: puede que no hayamos tenido ese gran incidente mediático, pero seguro que no somos perfectos".
Amodei concretó su propuesta en tres pasos: incorporar evaluadores independientes dentro de las propias empresas de IA, coordinar unos estándares de seguridad comunes entre los países democráticos y, más adelante, ampliar esa coordinación a escala global. En Dreamforce aseguró que Anthropic ya se ha comprometido a contar con evaluadores externos y que abrirá "un diálogo con el resto del sector" para los otros dos puntos. Su petición no llega en el vacío: el propio Amodei, Elon Musk (xAI) y Sam Altman (OpenAI) han pedido recientemente una desaceleración, en un clima caldeado por las advertencias de Jacob Coxon, un exinvestigador de Anthropic que dimitió con una declaración pública asegurando que la IA podría provocar la extinción de la humanidad en esta década. Esas palabras han encendido el debate en Silicon Valley, han llamado la atención de los reguladores y han inquietado al público.
La respuesta de Jensen Huang, consejero delegado de Nvidia, llegó poco después y fue la opuesta: "Corred todo lo que podáis". Huang defendió que no hacen falta nuevas normas y aconsejó a las empresas de IA que simplemente esperen a lanzar un producto hasta estar seguras de que es seguro, en lugar de pedir al Gobierno de Estados Unidos que intervenga. Su visión es que "cada empresa, cada compañía... se convertirá en una empresa de IA", que las organizaciones serán más ambiciosas gracias a esta tecnología y que quien no la adopte se quedará atrás. También rechazó de plano la idea de que la IA vaya a destruir empleo, algo que calificó de "una completa tontería". Un día antes, en el All-In Summit de Los Ángeles, Donald Trump llamó a Huang mientras este estaba en el escenario y, con el móvil en altavoz, tachó de "bulo" la creciente preocupación por la IA y repitió que frenar solo beneficiaría a China. Huang respondió: "Vamos a asegurarnos de que todos ganen en la carrera por la IA de Estados Unidos".
Sam Altman, que intervino más tarde ese mismo martes, pidió un "nuevo nivel de rigor" en seguridad ante la rapidez con la que avanzan los modelos. Según él, un episodio en el que agentes de OpenAI accedieron a los sistemas de otra empresa ha sido "un toque de atención" para el sector, y consideró que el público tiene "razón" en sentir miedo ante la posible pérdida de control o ante la posibilidad de que un puñado de compañías poderosas impongan su visión del mundo. "La gente percibe la velocidad con la que se mueven las cosas", dijo, y avisó de una "oleada" de ciberataques que está por llegar: "No estamos tan lejos de modelos de código abierto capaces de causar daños serios", por lo que recomendó a las empresas aprovechar este pequeño margen de ventaja para defenderse. Eso sí, aunque antes había apoyado el frenazo que reclama Amodei, ahora se muestra decepcionado con cómo se ha planteado el debate: "El mundo debería confiar en que vamos a hacer lo correcto porque es lo correcto".
Todo este pulso llega en un momento delicado, porque OpenAI y Anthropic se encaminan hacia su salida a bolsa, operaciones que algunos analistas sitúan entre las mayores de la historia y que por primera vez darían al público y a los inversores acceso a las cuentas de estas compañías. Altman ha asegurado que planea retrasar la salida a bolsa de OpenAI al próximo año por motivos de seguridad. Para Amodei, lo más sorprendente de la IA no ha sido solo la tecnología, sino el ritmo de su vertiente económica: "Teníamos una predicción de lo capaces que serían estos modelos, pero creo que no apreciamos que llevarían a estas empresas a crecer tan rápido". Pese a las prisas, Altman se mostró convencido de que el mundo seguirá siendo "extremadamente humano", por muy buena que llegue a ser la tecnología.
El análisis de Salseo
- Ojo con dar por neutral a Nvidia en este debate: su negocio vive de que la inversión en centros de datos y chips siga acelerando, así que el "corred todo lo que podáis" de Huang no es una opinión filosófica, es defender su libro de pedidos. Si el sector se tomara en serio una pausa, el primero que lo notaría en los ingresos sería el fabricante de los chips.
- El punto realmente relevante para el inversor son las tres medidas que propone Amodei (evaluadores independientes dentro de las empresas, estándares comunes entre países democráticos y coordinación global). Si eso se convierte en norma, implica auditorías, retrasos en lanzamientos y costes de cumplimiento para todo el sector, aunque también levantaría una barrera de entrada que beneficia a los grandes frente a los pequeños.
- El miedo ya no es solo abstracto: Altman habla de un hackeo real de agentes de OpenAI a otra empresa y avisa de modelos de código abierto capaces de hacer daño serio. Es decir, el debate ha pasado de '¿la IA nos destruirá?' a '¿puede alguien usar la IA para atacarnos mañana?'. Ahí sí hay terreno para que los reguladores actúen con hechos, no con discursos.
- El factor político desactiva buena parte del riesgo a corto plazo en Estados Unidos: con Trump llamando a Huang en directo, tachando de bulo la preocupación y ligando cualquier frenazo a una victoria de China, es difícil imaginar normas duras en Washington. La presión regulatoria real, si llega, apunta más a Europa y a las exigencias de seguridad que pidan los propios clientes corporativos.
- Movimiento de fondo con las salidas a bolsa de OpenAI y Anthropic de telón de fondo: posicionarse como 'los responsables' puede ser un argumento de marca valioso de cara a colocar acciones entre el público, mientras que retrasar un estreno bursátil por seguridad es una señal de cautela que conviene seguir de cerca.