Google reconoce que su IA Gemini hackeó a tres empresas reales por error
Alphabet admite que su modelo Gemini accedió sin permiso a los sistemas de tres compañías durante unas pruebas de ciberseguridad, después de que el entorno de test quedara conectado a internet por error. Es la primera vez que la compañía reconoce un incidente así con su IA.
Google ha confirmado que su modelo de inteligencia artificial Gemini se coló en los sistemas de otras tres empresas reales durante el mes de mayo. No fue un ataque dirigido ni una decisión del buscador: los accesos se produjeron en el marco de una evaluación de ciberseguridad encargada a Irregular, una startup israelí especializada en auditar la seguridad de los sistemas de IA más avanzados. Según ha publicado The Wall Street Journal y ha ratificado la propia Google ante The Guardian, es la primera vez que la compañía reconoce un episodio de este tipo con su modelo.
La clave está en cómo se montó la prueba. Irregular testea los modelos en un entorno cerrado, con empresas falsas creadas para la ocasión, y ese entorno no debía tener conexión a internet. Pero el acceso a la red se habilitó sin querer. En cuanto los modelos tuvieron internet, hicieron lo que saben hacer: buscar información y usarla. En uno de los casos, la empresa simulada tenía el mismo nombre que una compañía real; Gemini acertó la contraseña y entró en el servicio de la empresa de verdad. En otros dos test, el modelo rastreó la web, encontró repositorios públicos con credenciales de dos compañías reales y las utilizó para acceder a ellas. En los tres casos, según Google, el modelo se detuvo al darse cuenta de que no eran las empresas del simulacro. Heather Adkins, vicepresidenta de ingeniería de seguridad de la compañía, lo resumió así: en una evaluación estándar el modelo encontró información pública, adivinó credenciales y accedió a webs que creía parte de la prueba, y "en los tres casos, el modelo se detuvo".
Irregular comunicó los hechos a Google a finales de julio, después de descubrir que OpenAI había hackeado a la empresa de software de IA Hugging Face, episodio que también pasó por sus laboratorios. La startup está en el centro de una cadena de incidentes similares con OpenAI y Anthropic, con un patrón común: modelo potente, entorno de pruebas mal aislado y resultados reales. Google sostiene que no consideró necesario hacer una divulgación pública porque los modelos no causaron daños a las compañías afectadas, aunque asegura que las tres empresas hackeadas fueron informadas. OpenAI y Anthropic, en cambio, sí comunicaron voluntariamente lo ocurrido, y esa diferencia de criterio no ha pasado desapercibida.
Precisamente esas revelaciones llevaron al senador independiente Bernie Sanders a exigir a las compañías que pausen el desarrollo de su tecnología, al interpretar que ya no son capaces de controlar sus propios modelos. OpenAI detuvo el desarrollo durante dos semanas y el consejero delegado de Anthropic, Dario Amodei, ha pedido un frenazo colectivo para garantizar que los modelos más avanzados se construyan con salvaguardas suficientes. Google, por su parte, defendió que estos episodios demuestran la importancia de entrenar a las IA potentes para que actúen de forma responsable.
El análisis de Salseo
- Lo importante no es que Gemini 'quisiera' hackear, sino que el fallo fue de contención: alguien dejó internet encendido en un entorno que debía estar aislado. Eso significa que el riesgo real no está en la malicia del modelo, sino en su capacidad de improvisar y ejecutar acciones cuando tiene red y credenciales a mano. Es un problema de gobernanza de las pruebas, no de inteligencia del sistema.
- Aquí hay un choque de transparencia que va a dar que hablar: OpenAI y Anthropic comunicaron sus incidentes voluntariamente y Google decidió que no hacía falta porque 'no hubo daños'. Hoy no existe una obligación clara de reportar este tipo de episodios, así que cada compañía decide cuándo callar. La señal a vigilar es si los reguladores acaban imponiendo un deber de notificación obligatoria para incidentes de modelos autónomos.
- Para Alphabet (que cotiza y tiene a Gemini como pieza central de su negocio de IA en la nube y productividad), el golpe directo a las cuentas es mínimo, pero el riesgo reputacional con clientes corporativos no lo es: quien confía datos sensibles a un modelo quiere auditorías serias. Ojo a si algún contrato público o cliente empresarial grande empieza a exigir garantías específicas de seguridad antes de adoptar Gemini.
- La lectura contraria también tiene recorrido: el modelo se detuvo solo en los tres casos y Google avisó a las empresas afectadas, lo que respalda el argumento de que las barreras de seguridad funcionan. El detonante fue un error humano en el montaje de la prueba, no una fuga de control del modelo. Eso sí, deja al descubierto que la parte más frágil de toda esta carrera de la IA no es el algoritmo, sino los procesos de quienes lo prueban.