El Parlamento británico cita a Meta, Google, OpenAI y Anthropic por la seguridad de la IA
La comisión de ciencia del Parlamento británico quiere preguntar a las grandes tecnológicas si los test de seguridad de la IA deben ser obligatorios por ley y verificados por terceros. La cita, el 13 de octubre, llega mientras varios reguladores aprietan a la vez a las mismas compañías.
El Parlamento británico mueve ficha en el terreno de la inteligencia artificial. Su Comisión de Empresa, Innovación, Ciencia y Comercio ha invitado a Meta, Google, OpenAI y Anthropic a comparecer el próximo 13 de octubre en una sesión de toma de declaraciones sobre seguridad de la IA. También ha llamado al Instituto de Seguridad de IA del Reino Unido (AISI, por sus siglas en inglés), el organismo dependiente del Gobierno británico. No es una citación judicial: las empresas pueden acudir o declinar, pero el foco político ya está puesto sobre ellas.
¿Qué quieren preguntarles? El eje central es si las pruebas de seguridad previas al lanzamiento de un modelo deberían ser obligatorias por ley y realizadas por evaluadores independientes, en lugar de quedar a criterio del propio desarrollador. Los diputados también quieren abordar la obligación de reportar incidentes graves: comportamientos engañosos de la IA, barreras de seguridad sorteadas, réplicas no autorizadas de modelos y cualquier señal de que el control humano sobre el sistema esté fallando. Y pondrán bajo la lupa qué impide que la competencia entre empresas, o entre países, acabe convertida en una carrera a la baja en estándares de seguridad, además de qué exigencias comunes deberían ser obligatorias a nivel internacional.
El tono de la comisión es duro. En una carta enviada el martes al director del AISI, Henry de Zoete, los diputados hablan abiertamente de una "amenaza existencial para la humanidad" y citan la propuesta de Dario Amodei, consejero delegado de Anthropic, de marcar un "ritmo" coordinado en el desarrollo de la IA, algo que él mismo planteó en público este mes. El empuje lo lidera el diputado laborista Liam Byrne, presidente de la comisión. De Zoete respondió defendiendo su enfoque: recordó que a nadie fuera de Estados Unidos se le permitió ver el último producto de Anthropic antes de su lanzamiento, pero sostuvo que su instituto puede seguir vigilando esas herramientas una vez en el mercado. Sus equipos de investigadores trabajan en proyectos basados en pruebas anteriores y posteriores al lanzamiento, en áreas como el riesgo químico-biológico, la influencia sobre las personas y la pérdida de control.
Los datos del propio organismo refuerzan el empuje parlamentario. En su informe de tendencias de IA de frontera, elaborado con dos años de evaluaciones, el AISI calcula que el rendimiento de las capacidades de la IA se duplica aproximadamente cada ocho meses. En pruebas concretas de ciberseguridad, los modelos que resolvían tareas de nivel aprendiz un 9% de las veces a finales de 2023 pasaron a completarlas el 50% de las veces a principios de 2025. Por su parte, el Centre for Long-Term Resilience, organización británica de investigación política, habla de un aumento de cinco veces en los incidentes de pérdida de control de la IA durante el último año, y describe el riesgo como algo que ha pasado "de hipotético a habitual", con potencial de amenaza existencial en una década. El AISI nació tras la cumbre de seguridad de Bletchley Park de 2023, donde 28 países, entre ellos Estados Unidos y China, firmaron la primera declaración internacional comprometiendo un desarrollo y despliegue seguros de la IA.
El contexto va más allá del Reino Unido. La ley europea de IA acaba de dar a Bruselas poder para inspeccionar modelos antes de su lanzamiento, restringir su acceso al mercado y multar a los proveedores con hasta 15 millones de euros o el 3% de su facturación global. Y más de un centenar de empresas de IA, entre ellas OpenAI, Anthropic, Google y Microsoft, firmaron una carta conjunta pidiendo una respuesta coordinada del sector ante una serie de brechas de seguridad, incluido un incidente en el que uno de los agentes de OpenAI se salió de un entorno de pruebas aislado y atacó a Hugging Face. Para el inversor, la lectura es clara: varios reguladores están apretando a la vez sobre el mismo puñado de compañías punteras, lo que añade un riesgo de titulares a las carteras con exposición a la IA de cara al tramo final del año.
El análisis de Salseo
- Aquí no se decide una multa, se decide el modelo de juego: si el Reino Unido convierte en ley los test obligatorios antes de lanzar un modelo, deja de ser un coste voluntario y pasa a ser un requisito de calendario. Para Meta eso significa que un lanzamiento puede retrasarse por una evaluación externa, no solo por su propia hoja de ruta técnica.
- El informe del propio instituto británico es la munición política: capacidades que se duplican cada ocho meses y tareas de ciberseguridad nivel aprendiz que pasan de resolverse un 9% de las veces a un 50% en poco más de un año. Ese dato es el que hace difícil defender que la autorregulación basta, y es exactamente lo que los diputados pondrán encima de la mesa el 13 de octubre.
- El punto más incómodo es el de la carrera a la baja: si una empresa frena para testar y otra no, la primera pierde terreno, así que nadie frena por voluntad propia. De ahí la propuesta de Amodei de marcar un ritmo coordinado y la insistencia en exigencias internacionales comunes. El riesgo real para el sector no es la norma británica, sino que la británica, la europea y la estadounidense acaben pidiendo cosas distintas.
- Señal concreta que vigilar: si el AISI logra acceso a los modelos antes de que salgan al mercado. Su propio director reconoce que nadie fuera de Estados Unidos pudo ver el último lanzamiento de Anthropic antes de que estuviera disponible, lo que demuestra el techo real de una supervisión que hoy es voluntaria y llega tarde. Si eso cambia por ley, cambia el coste de cumplimiento para todo el sector.