Los líderes de la IA quieren 'frenar la frontera': mucho titular y pocas ideas de cómo
Los jefes de Anthropic, OpenAI, xAI y Google DeepMind apoyan bajar el ritmo del desarrollo de la IA más puntera, pero no se ponen de acuerdo en cómo hacerlo ni en quién debería obedecer. Meta se desmarca.
Los nombres que mandan en la inteligencia artificial —Dario Amodei (Anthropic), Sam Altman (OpenAI), Elon Musk (xAI) y Demis Hassabis (Google DeepMind, la división de IA de Alphabet)— han coincidido en algo que casi nunca comparten: la idea de bajar el ritmo del desarrollo de la IA más puntera. En el sector se le llama «la frontera» (the frontier), que no es otra cosa que lo más avanzado que se puede hacer hoy con esta tecnología. El respaldo público de estos ejecutivos a la propuesta de Amodei parecía el primer paso hacia unos estándares comunes de seguridad. Pero, como suele pasar, el consenso se ha quedado en la publicación de turno.
El punto de partida del debate es el ensayo que Amodei tituló «We Must Pace the Frontier» («debemos marcar el ritmo de la frontera»), en el que pedía construir nuevas capacidades más despacio, dedicar más recursos a que los modelos se comporten como esperamos (lo que en inglés llaman alignment) y aumentar la regulación de los laboratorios de frontera, con transparencia y auditorías de terceros. Detrás hay un runrún que ha ido a más: la dimisión este mes del investigador Jacob Coxon, que aseguró en X que OpenAI y Anthropic están actuando de forma irresponsable y «jugando con nuestras vidas», y las declaraciones de Evan Hubinger, jefe de ciencia de alineación de Anthropic, que ve «más de un 10% de probabilidad» de que la IA acabe con la humanidad en esta misma década.
Ahí se acaba el acuerdo. OpenAI, Anthropic y Google DeepMind llevan semanas, según el responsable de política global de OpenAI, Chris Lehane, colaborando en asuntos de seguridad. Mark Zuckerberg, en cambio, dejó claro en una publicación en X que cada laboratorio «tiene la responsabilidad y el incentivo de ir al ritmo necesario para entrenar sus modelos de forma segura», y presumió de haber retrasado varios meses el lanzamiento de su agente Muse por motivos de seguridad: «No exigimos que los demás hicieran eso antes de hacerlo nosotros», añadió. Traducido: Meta no quiere que un freno se decida en una mesa común a la que después todos tengan que apuntarse.
Aunque quisieran, frenar de verdad es otra historia. Ritwik Gupta, profesor de informática e IA en la Universidad de Maryland, cree que esta idea exige cooperación entre todos los laboratorios y que eso «puede que no sea posible en el régimen competitivo de libre mercado en el que operamos»: si solo dos bajan el ritmo, otros aprovecharán para ponerse al día o para fijar una nueva frontera. Y añade un matiz técnico importante: hoy el avance no lo mueve solo el entrenamiento de los modelos, sino también el trabajo que se hace en el momento de usarlos y el software que los rodea, así que limitar la potencia de cálculo dedicada al entrenamiento no cambiaría gran cosa el ritmo. A eso se suma que nadie se pone de acuerdo ni en las definiciones: A.J. Bhadelia, responsable de política pública de Cohere, habla de «desacuerdo científico de fondo» y tacha de «ciencia ficción» el pronóstico del 10%; Ben Goertzel, fundador de SingularityNET, remata que «en la práctica no hay ningún plan de desaceleración coherente y racional que considerar».
¿Y a mí, inversor particular, qué me importa todo esto? Dos cosas. La primera, Alphabet: Google DeepMind está en el centro del pulso y es la única de las grandes que aparece aquí con voz propia tanto en negocio como en seguridad, así que cualquier marco regulatorio que finalmente salga le va a tocar de lleno. La segunda, el coste del «freno»: si el estándar acaba centrándose en limitar la capacidad de cómputo o en exigir auditorías externas, cambia el calendario y la factura de los lanzamientos. De momento no hay ninguna norma aprobada ni ninguna cifra que altere las cuentas de nadie: es un debate muy ruidoso entre rivales que, eso sí, va marcando la agenda de lo que se regulará en los próximos años.
El análisis de Salseo
- Un freno voluntario choca de frente con el incentivo económico: quien lo aplique pierde terreno frente a quien no lo haga, sea otro laboratorio o un competidor de fuera. Por eso Zuckerberg dice «yo ya retraso mis lanzamientos, pero no voy a esperar a los demás»: es exactamente el problema clásico de los cárteles, que se rompen cuando alguien tiene mucho que ganar incumpliendo.
- El detalle técnico que casi nadie cuenta: limitar el cómputo de entrenamiento puede quedarse obsoleto antes de aprobarse. Si el avance viene cada vez más de cómo se usa el modelo (más cálculo al responder) y del software alrededor, una norma atada al entrenamiento daría una falsa sensación de control y dejaría el cambio real sin regular. Ese es el riesgo regulatorio concreto para las grandes tecnológicas.
- Señal a vigilar: el debate se está moviendo de las declaraciones públicas a la colaboración técnica entre OpenAI, Anthropic y Google DeepMind. Si eso cuaja en un estándar sectorial firmado o en una propuesta legislativa con obligaciones de transparencia y auditoría, afectará a plazos y costes de lanzamiento; si se queda en titulares, no cambia nada. Merece más seguimiento la letra pequeña que el titular.
- La lectura contraria también es válida: la propia desunión del sector juega a favor de los grandes. Un marco difuso se cumple con informes y no frena el producto, mientras que un parón real y coordinado es hoy por hoy inviable (Cohere lo llama ciencia ficción y Goertzel dice que no existe plan coherente). Para el inversor, el escenario más probable a corto plazo es mucho ruido y poca norma.