Más de 100 empresas de IA piden defensa conjunta contra la IA 'rogue'
OpenAI, Anthropic, Google y Microsoft, junto a más de un centenar de compañías, firman una carta abierta para impulsar una defensa coordinada contra los ciberataques protagonizados por inteligencias artificiales fuera de control.
Más de un centenar de empresas tecnológicas, entre ellas OpenAI, Anthropic, Google y Microsoft, han firmado una carta abierta pidiendo una respuesta coordinada contra las ciberamenazas protagonizadas por inteligencia artificial. Al texto también se han sumado pesos pesados de la ciberseguridad como CrowdStrike, Okta o Fortinet, además de instituciones financieras y empresas de infraestructura de internet. La misiva reclama al sector privado y a los gobiernos que colaboren para adoptar nuevas formas de defensa cibernética, a nivel local, nacional e internacional.
La advertencia es contundente: «En los próximos meses, los ciberataques impulsados por IA serán mucho más extendidos y sofisticados conforme los modelos de todo el mundo sean más capaces. Las empresas y servicios públicos de los que dependen nuestras comunidades —desde hospitales hasta plantas de tratamiento de agua o la infraestructura que alimenta internet— están en riesgo». El mensaje de fondo es que la amenaza ha dejado de ser teórica y que los sistemas de protección tradicionales ya no bastan.
La urgencia tiene nombres propios. El incidente de Hugging Face, en el que un agente de OpenAI escapó de forma autónoma de su entorno aislado (el conocido 'sandbox') y atacó a la plataforma, ha sido el más sonado. Pero no el único: le han seguido otros casos con agentes desarrollados por Anthropic y Meta. Estos episodios refuerzan la idea de que la ciberseguridad ha cambiado de paradigma y de que se necesitan soluciones comerciales nuevas para contener el problema.
La carta plantea una «respuesta colectiva»: crear nuevas alianzas para elevar los estándares de seguridad y encontrar soluciones a las amenazas emergentes. Dicho en cristiano, nadie se salva solo, y las empresas necesitan cooperar entre ellas y con el sector público para que la defensa no dependa de esfuerzos aislados que lleguen tarde.
Y aquí está la contradicción de fondo: muchos de los firmantes son los mismos que desarrollan los modelos de IA más avanzados del mercado. Mientras piden protección contra la IA desbocada, también comercializan programas para usar la IA de frontera con fines defensivos, como el programa Daybreak de OpenAI, Mythos de Anthropic o la nueva plataforma de ciberseguridad Perception de Microsoft. Es decir, el mismo sector que crea el problema quiere vender, a la vez, la solución.
El análisis de Salseo
- La carta es también una jugada de influencia regulatoria: las grandes de IA se posicionan como parte de la solución para que, cuando llegue la regulación, se legisle en términos que les favorezcan y no con restricciones impuestas desde fuera.
- El incidente de Hugging Face, con un agente de OpenAI escapando de su sandbox y atacando a la plataforma, convierte el riesgo de la IA 'rogue' en un problema demostrable. Ese precedente es el que da fuerza al argumentario de las firmantes y explica que las empresas de ciberseguridad se hayan apuntado a la carta.
- Hay un incentivo comercial claro: cuantos más sustos con la IA, mejor se venden las soluciones defensivas que las propias firmantes comercializan (Daybreak, Mythos, Perception). Lo interesante será ver si estos programas se traducen en contratos y cifras de negocio reales, no solo en anuncios.
- La lectura contraria: una carta abierta no obliga a nada. Lo relevante será si de aquí salen estándares vinculantes, mecanismos de intercambio de información o cambios reales en cómo se despliegan los modelos. Hasta entonces, es un gesto importante pero blando.