OpenAI, Anthropic y Google DeepMind se coordinan para frenar los riesgos de la IA
Las tres grandes laboratorios de inteligencia artificial admiten conversaciones para fijar estándares comunes de seguridad, mientras en Washington la ley sigue atascada y Trump tacha las alertas de "engaño".
OpenAI ha confirmado que lleva varias semanas trabajando con sus rivales Anthropic y Google DeepMind en medidas para abordar la seguridad de la inteligencia artificial. Lo dijo el martes Chris Lehane, responsable global de política de OpenAI, en un encuentro con periodistas en Washington recogido por Bloomberg. Según Lehane, las tres compañías no necesitan ninguna exención antimonopolio para coordinar este tipo de asuntos: "Es mejor intentar trabajar juntos para priorizar la seguridad", afirmó.
El debate saltó a primera plana el sábado, cuando el consejero delegado de Anthropic, Dario Amodei, publicó un ensayo de 3.800 palabras pidiendo contención a la hora de desarrollar los sistemas de IA más avanzados, para que los investigadores puedan entender mejor las amenazas potenciales. El mensaje fue respaldado públicamente por Sam Altman (OpenAI) y por Elon Musk, al frente de SpaceX y xAI. Aunque el texto de Amodei haya dado visibilidad al asunto, según The Information las conversaciones entre las tres empresas para crear un organismo común de estándares ya venían de al menos julio, con reuniones de grupo de trabajo celebradas incluso la semana pasada. El impulso inicial partió de otro ensayo, el que publicó en julio Demis Hassabis, fundador de Google DeepMind, que propuso un ente regulador inspirado en la FINRA que supervisa Wall Street bajo el paraguas de la SEC: una organización que evaluaría los modelos avanzados antes de su lanzamiento, financiada por la industria pero con expertos técnicos independientes en su plantilla.
En el plano político, Lehane explicó que está reunido con legisladores y que OpenAI apoyaría propuestas bipartidistas contra riesgos catastróficos. Entre ellas están el marco federal de gobernanza de la IA planteado por el republicano Jay Obernolte y la demócrata Lori Trahan, y una propuesta del Senado liderada por el líder de la mayoría John Thune junto a Ted Cruz (republicano) y Amy Klobuchar (demócrata). Hay además un proyecto separado de los senadores Jim Banks y Adam Schiff que daría a las empresas de IA una exención antimonopolio limitada para compartir información sobre riesgos (pérdida de control de los sistemas, ciberamenazas o intentos chinos de extraer datos) y que se ha incorporado al proyecto de ley de defensa anual. Aun así, las probabilidades de que salga adelante cualquier legislación sobre IA este año son bajas: la Cámara de Representantes deja Washington el jueves y no vuelve hasta después de las elecciones de noviembre, y la breve sesión posterior se espera centrada en el presupuesto del Pentágono. El presidente Trump se ha mostrado públicamente en contra de los cortafuegos de seguridad en IA y el lunes calificó en redes sociales de "engaño" las preocupaciones planteadas por Anthropic y OpenAI.
La propia industria está dividida. Mark Zuckerberg, consejero delegado de Meta, trasladó sus dudas sobre un regulador nacional de IA a Trump en una llamada de agosto, según The Information, y una orden ejecutiva relacionada que preparaba la Casa Blanca quedó aparcada al no lograr apoyos suficientes dentro de la administración. El presidente de la Cámara, el republicano Mike Johnson, dijo el domingo a CNN que no hay "consenso" entre las compañías de IA sobre cómo deberían ser esos estándares y que cualquier marco tendría que ser una asociación entre industria y legisladores. Más crítico fue Aidan Gomez, consejero delegado de Cohere, que advirtió en X de que dejar que las mayores empresas de IA fijen las reglas compartidas podría perjudicar a los competidores más pequeños.
El análisis de Salseo
- Lo relevante aquí no es la buena voluntad, sino quién escribe el manual. La propuesta de Hassabis es un organismo financiado por la industria pero con expertos independientes, al estilo de la FINRA que vigila Wall Street: si esos estándares acaban pesando, los grandes laboratorios podrán adelantarse a una regulación más dura y diseñarla a su medida. La señal a vigilar es si ese ente tendrá poder real para evaluar modelos antes de lanzarlos o quedará en un club de buenas intenciones.
- En el corto plazo, el impacto legislativo es prácticamente nulo: la Cámara se va el jueves, no vuelve hasta después de las elecciones de noviembre y la sesión de transición se centrará en el Pentágono. Con Trump calificando las alertas de "engaño", lo único que puede avanzar este año es la exención antimonopolio limitada de Banks y Schiff, colada dentro de la ley de defensa. Es decir, el mercado se queda con compromisos voluntarios, no con normas exigibles.
- La pelea interna es la parte que el titular no cuenta. Meta y su jefe, Zuckerberg, se oponen a un regulador nacional de IA, y el consejero delegado de Cohere avisa de que unos estándares pactados por los tres gigantes pueden convertirse en una barrera de entrada para los pequeños: la 'seguridad' puede funcionar como moat competitivo. Ahí está la tensión de fondo: todos dicen querer reglas, pero nadie quiere las mismas.
- Para el inversor, esto no mueve cifras hoy, pero sí define el terreno de juego de los próximos años: cuánto costará cumplir, qué empresas podrán lanzar modelos frontera y si la ventaja competitiva se traslada a quien mejor se adapte al marco regulatorio. Conviene seguir el calendario legislativo de 2025 y el desenlace del grupo de trabajo conjunto, porque marcará los requisitos de cumplimiento (y los costes) de todo el sector.