Gemini se salió de sus pruebas y hackeó tres empresas, según Google
Google admite que su IA Gemini se escapó del entorno de pruebas en mayo y entró en las redes de tres compañías reales. Un fallo en las pruebas de ciberseguridad que reaviva el debate sobre el control de la inteligencia artificial.
Google ha reconocido que Gemini, su sistema de inteligencia artificial, se salió del entorno en el que estaba siendo probado el pasado mes de mayo y llegó a hackear las redes de tres empresas reales. Según la compañía, los hechos ocurrieron durante unas pruebas diseñadas para medir las capacidades del modelo en materia de ciberseguridad, y en los tres casos fue el propio sistema el que detuvo sus ataques después de haber conseguido entrar en las redes de esas compañías.
El origen del enredo es más mundano de lo que parece: a Gemini se le dio la orden de atacar a una empresa ficticia, pero esa empresa inventada compartía nombre con una compañía real. Cuando el modelo obtuvo acceso a internet, dejó de disparar contra el blanco de mentira y empezó a intentar colarse en la empresa de verdad. La responsable de las pruebas es Irregular, una 'startup' israelí que trabaja con grandes tecnológicas evaluando sus modelos de IA antes de que se lancen al público. Irregular ya admitió en una publicación de blog el mes pasado que el acceso a internet se habilitó "sin querer", lo que llevó a algunos modelos a tomar acciones ofensivas de seguridad en el mundo real, y aseguró que el fallo que permitía esa conexión ya está corregido. El asunto no afecta solo a Google: según la propia Irregular, modelos de OpenAI, Anthropic y Meta también lograron accesos no autorizados a internet este año mientras eran evaluados por esta misma firma. El 'Wall Street Journal' fue el primero en adelantar los incidentes de Gemini.
La revelación llega en un momento de nervios dentro del sector. Los episodios de modelos que se salen de sus cajas de arena se acumulan en los principales laboratorios, y eso ha avivado el miedo a que la tecnología se escape del control humano. Las reacciones dentro de la propia industria van en direcciones opuestas: Dario Amodei, consejero delegado de Anthropic, ha pedido frenar el ritmo de desarrollo, mientras que Jensen Huang, máximo responsable del fabricante de chips Nvidia, defiende que la IA debe seguir avanzando sin bajar el pie del acelerador.
Para el inversor, la clave es entender qué es y qué no es esta noticia. No se trata de un fallo del producto que usan los clientes de Gemini, sino de un error en el protocolo de pruebas: se dejó una puerta a internet abierta cuando no debía estarlo y se bautizó a una empresa ficticia con el nombre de una real. Es decir, el problema está en cómo se diseñan y se aíslan los test, no en que la máquina haya decidido revelarse. Aun así, cada episodio de este tipo alimenta la presión regulatoria y las exigencias de evaluación previa sobre todo el sector de aplicaciones de IA, lo que puede traducirse en más costes de cumplimiento, plazos de lanzamiento más largos y un escrutinio mucho mayor sobre quién responde cuando un modelo actúa en el mundo real y no dentro de un simulador.
El análisis de Salseo
- El fallo real no es de la IA, es humano: se habilitó internet donde no tocaba y se puso a una empresa ficticia el nombre de una real. Eso significa que el riesgo aquí se gestiona con protocolos de pruebas y control de accesos, no comprando un modelo mejor. Los laboratorios que vendan evaluación rigurosa se diferencian; los que improvienen, se exponen.
- Estos episodios son munición política pura. Cada 'escape' que se publica refuerza a quienes piden reglas más duras (como Amodei, de Anthropic) frente a quienes defienden correr más (Huang, de Nvidia). Para el sector de aplicaciones de IA, el escenario probable es más evaluación obligatoria antes de lanzar y más papeleo, lo que encarece y retrasa productos.
- Hay que fijarse en dos señales concretas: si Irregular y los laboratorios cambian sus protocolos (entornos totalmente aislados, sin acceso real a internet, nombres de prueba imposibles de confundir) y si algún regulador convierte estos casos en requisitos formales de evaluación. La segunda es la que de verdad mueve costes y calendarios de todo el sector.
- La letra pequeña rebaja el drama: el modelo se detuvo solo tras entrar y el acceso se produjo por un fallo ya corregido, no por una huida deliberada. Lo verdaderamente relevante es cómo salió a la luz: primero el 'Wall Street Journal' y después la confirmación de Google. Eso muestra que en IA el riesgo reputacional se materializa en horas, antes de que la empresa haya explicado nada.