OpenAI, Google y Anthropic tantean un pacto por la seguridad de la IA
OpenAI confirma que habla con Anthropic y Google sobre cómo coordinar la seguridad de sus modelos, en plena presión para que el sector frene. La idea de fondo: un organismo de estándares liderado por la propia industria.
OpenAI ha confirmado a la CNBC que mantiene conversaciones con otras compañías de inteligencia artificial, entre ellas Anthropic y Google, para ver cómo pueden colaborar en materia de seguridad. Un portavoz de la empresa aseguró este martes que los contactos no son nuevos: empezaron en julio, cuando Demis Hassabis, presidente de Google DeepMind, hizo pública una propuesta para crear un "organismo de estándares" liderado por Estados Unidos.
La idea de Hassabis, publicada como ensayo en la red social X, pasa por montar una asociación público-privada o un organismo de autorregulación con supervisión federal, parecido a como funciona la FINRA en Estados Unidos. Para que se entienda: la FINRA es el supervisor privado que vigila a los brókers y agentes de bolsa y que, aunque lo forman y financian los propios actores del mercado, responde ante el regulador público. Trasladado a la IA, significaría que las empresas escriben las reglas y un supervisor externo comprueba que se cumplen.
El movimiento llega después de semanas de mucha presión sobre el sector. El sábado, Dario Amodei, consejero delegado de Anthropic, pidió a las compañías de IA que frenen el ritmo al que mejoran sus modelos más avanzados. Hassabis y el propio Sam Altman, máximo responsable de OpenAI, aplaudieron la idea. "El ensayo de Dario apunta al camino correcto", escribió Hassabis en X, añadiendo que los detalles hay que trabajarlos, pero que la dirección es la apropiada para este momento crítico. Altman dijo estar de acuerdo en la necesidad de poner ritmo a los modelos más punteros y aseguró que ese frenazo ha sido "tema principal" de discusión dentro de OpenAI en las últimas semanas, con más novedades "pronto".
A esto se suma el marco que la propia OpenAI viene defendiendo. A principios de mes, Chris Lehane, responsable de asuntos globales de la compañía, publicó una entrada de blog en la que explicaba que trabajan por unos "estándares liderados por la industria" y que lo harán de forma voluntaria, "con o sin apoyo del gobierno". En su opinión, esos estándares deben complementar, no sustituir, las salvaguardas federales obligatorias y la supervisión democrática, aunque admite que el sector ha entrado en una fase distinta y que "todo debería estar sobre la mesa", incluido lo que se pueda construir de forma voluntaria al margen del gobierno como paso inmediato.
Lo llamativo del caso es que quienes están sentados en la mesa son rivales feroces que compiten por el mismo talento y los mismos clientes. El medio The Information adelantó las conversaciones y ni Google ni Anthropic quisieron comentar la noticia cuando CNBC se puso en contacto con ellas. Por ahora no hay acuerdos cerrados, ni cifras, ni compromisos firmes: solo la constatación de que las tres grandes casas de IA están hablando de autorregularse antes de que alguien lo haga por ellas.
El análisis de Salseo
- Lo que se está cociendo no es una ley, sino un organismo privado con supervisión pública, al estilo del que vigila a los brókers en Estados Unidos. Para el inversor esto importa mucho: un marco escrito por las propias empresas suele ser más laxo y más predecible que una regulación impuesta desde fuera, así que si la industria logra liderar el proceso, el riesgo regulatorio del sector baja de golpe.
- El giro llamativo es que los propios CEOs pidan frenar. Que el que va primero en la carrera (OpenAI, Google) acepte bajar el ritmo de los modelos más punteros suele esconder dos cosas: que entrenar esos modelos cuesta cada vez más dinero y que la presión política es ya insostenible. Traducido: menos lanzamientos sorpresa y más fase de consolidación, con el foco en monetizar lo que ya existe.
- Hay una tensión de fondo que el titular no cuenta: coordinarse en seguridad acerca posiciones entre rivales y puede acabar ralentizando a los líderes, lo que da aire a los que van por detrás. Es decir, la autorregulación puede ser un freno para unos y una ventana de oportunidad para otros que no están en esas conversaciones.
- Señales concretas a vigilar: si el anunciado 'organismo de estándares' llega a existir de verdad, quién lo financia y quién manda en él; si el 'pronto' de Altman se concreta en un anuncio medible; y si en el proceso entran empresas que no han participado, porque serán las primeras obligadas a cumplir unas reglas que no han escrito.