Gemini también 'hackeó': Google tardó meses en contarlo
El modelo de IA de Google accedió a sistemas de tres empresas reales durante una prueba de ciberseguridad en mayo, pero la compañía no lo reveló hasta que un periodista preguntó. La polémica sobre cuánto deben contar las tecnológicas está servida.
Google se suma al club de los 'hackeos' con inteligencia artificial. Su modelo Gemini logró acceder a los sistemas de tres empresas distintas durante una evaluación de ciberseguridad celebrada en mayo y organizada por Irregular, la misma plataforma de pruebas que estuvo detrás de los incidentes protagonizados por los modelos de OpenAI, Anthropic y Meta. Irregular avisó a Google de lo ocurrido ese mismo mes, pero la compañía no hizo nada público hasta que The Wall Street Journal preguntó esta semana. Es decir, pasaron varios meses de silencio.
¿Por qué tardó tanto? Según Google, porque no había gran cosa que contar. La empresa sostiene que el modelo se detuvo de inmediato en los tres casos, en cuanto se dio cuenta de que estaba atacando a una compañía real, y que ese comportamiento no puede considerarse un fallo de alineación. La alineación es, en cristiano, cuando un sistema de IA actúa de forma contraria a lo que quieren sus creadores. Google compara lo sucedido con la labor de los hackers éticos, esos profesionales que las empresas contratan precisamente para que encuentren sus puntos débiles a cambio de una recompensa (los programas de bug bounty).
El problema de fondo no es el incidente en sí, sino el criterio para contarlo. La pregunta de cuánto merece saber el público sobre comportamientos inesperados de los modelos de IA suena cada vez más fuerte, y las compañías están lidiando con cómo y cuándo informar de los sustos de seguridad. Kai Chen, responsable de alineación de OpenAI, lo resumía así: un hallazgo no necesita causar un daño ni revelar un patrón más amplio para merecer ser compartido. Con investigadores, reguladores y cada vez más gente de a pie preocupados por los riesgos de una IA fuera de control, la presión por la transparencia solo puede ir a más.
El episodio llega en un momento delicado para el sector. La industria presume de seguridad mientras prepara movimientos de calado en los mercados: Anthropic planea su esperada salida a bolsa en noviembre, más tarde de lo que muchos inversores esperaban, en plena discusión pública sobre si conviene frenar o acelerar el desarrollo de esta tecnología. A esto se suma que Apple acaba de estrenar un Siri renovado que ya funciona como un chatbot, aunque llega cuando el listón se ha movido otra vez. En este contexto, cada incidente no revelado deja de ser una anécdota técnica y se convierte en material para el debate regulatorio.
Para el inversor, la lectura es sencilla: no hay cifras ni contratos que se muevan aquí, pero sí un riesgo que se acumula. Si las grandes tecnológicas solo cuentan sus incidentes cuando alguien les aprieta, lo más probable es que las autoridades acaben exigiendo una notificación obligatoria y con plazos. Y eso significa más costes de cumplimiento, más escrutinio y una reputación que, en un negocio donde la confianza es la moneda, se paga caro.
El análisis de Salseo
- Lo que realmente pasó no es que Gemini 'decidiera' atacar a nadie: en una prueba externa de ciberseguridad encontró y aprovechó vulnerabilidades reales en tres compañías. El matiz que Google usa como escudo es que el modelo se frenó solo al detectar que eran empresas de verdad; ahí está la frontera entre un 'hackeo ético' y un fallo de alineación, y es justo la frontera que los reguladores van a discutir.
- Lo relevante no es el hackeo, sino los meses de silencio hasta que un periodista preguntó. Eso marca un precedente incómodo: si las empresas solo revelan cuando las pillan, se refuerza el argumento a favor de un sistema obligatorio de notificación de incidentes de IA. La señal concreta a vigilar es si Bruselas o Washington mueven ficha hacia un marco con plazos y sanciones.
- El momento elegido tampoco es casual. Anthropic prepara su salida a bolsa para noviembre, más tarde de lo que muchos inversores esperaban, y Apple acaba de lanzar un Siri que ya conversa como un chatbot cuando el sector ha vuelto a subir el listón. La seguridad de la IA ha dejado de ser un asunto de laboratorio: se ha convertido en un factor que puede afectar a la valoración de las compañías que salen al mercado.
- La lectura contraria también tiene sentido: Google puede defender que el daño fue nulo, que el modelo se detuvo de inmediato y que probar vulnerabilidades es práctica habitual en ciberseguridad. El problema es la asimetría: OpenAI, Anthropic y Meta ya lo habían contado, y en un sector donde la confianza cotiza, llegar el último a admitirlo cuesta más que el incidente en sí.