Google mueve su unidad de seguridad de IA de DeepMind a Asuntos Globales
Google saca su equipo de responsabilidad de IA, de 90 personas, del laboratorio DeepMind y lo integra en Asuntos Globales, donde se gestiona la política pública. Los empleados del área temen perder independencia y visibilidad sobre los últimos modelos.
Google ha decidido reorganizar la seguridad de su inteligencia artificial. Según The Wall Street Journal, el equipo de 'responsabilidad de IA' deja de depender del laboratorio Google DeepMind y pasa a integrarse en la organización de Asuntos Globales, que supervisa el cabildeo y la política pública de la compañía. La medida, comunicada por correo interno, afecta a unas 90 personas.
Ese equipo no se dedica a una sola cosa: tiene grupos centrados en los riesgos químicos, biológicos, radiológicos y nucleares de los modelos de IA, en las formas en que los usuarios interactúan con la tecnología y en el impacto psicológico de los chatbots. Es decir, supervisa desde peligros de seguridad física hasta el efecto emocional que tiene hablar con un asistente inteligente.
El traslado forma parte de un plan más amplio para convertir Google DeepMind en una división integrada dentro de Google, similar a Google Search, en lugar de la unidad semiautónoma que ha sido desde que la compañía la compró en 2014. A principios de agosto, Google ya anunció una reorganización en la que Demis Hassabis, cofundador y consejero delegado de DeepMind, pasó a un nuevo rol como presidente. Ahora, al sacar la unidad de seguridad del laboratorio, la cadena de mando cambia: los equipos de responsabilidad dependerán del área de política pública, no de los investigadores que desarrollan los modelos.
Según dos empleados actuales de DeepMind citados por el WSJ, parte del equipo de responsabilidad está preocupada: creen que su trabajo se verá afectado negativamente, que su capacidad para hacer investigaciones independientes quedará limitada y que tendrán menos acceso a lo que está pasando con los modelos más recientes. Google, por su parte, lo vende como una mejora: 'Muchos equipos en Google trabajan en seguridad y responsabilidad de IA, y al acercar nuestros equipos de responsabilidad estamos fortaleciendo su capacidad para informar la seguridad de nuestros modelos y productos', dijo un portavoz.
La noticia llega en pleno debate sobre cómo regular la IA. En julio, Hassabis propuso que Estados Unidos liderara un organismo de estándares capaz de probar los modelos más avanzados antes de su lanzamiento para cerrar riesgos de seguridad nacional. Que la unidad de seguridad se mueva ahora a Asuntos Globales sugiere que Google quiere alinear su supervisión técnica con su estrategia regulatoria. Para un inversor, la noticia no cambia las cuentas, pero sí dice mucho sobre cómo Google gestiona uno de sus mayores riesgos: la seguridad de la propia tecnología que quiere vender.
El análisis de Salseo
- El cambio es de jerarquía, no de presupuesto: la unidad de seguridad pasa de reportar al laboratorio que crea los modelos a reportar a los responsables de defender a Google ante reguladores y políticos. Eso puede cambiar las preguntas que se hace el equipo: la prioridad ya no será solo '¿es seguro?', sino '¿cómo contamos que es seguro?'. Sin independencia técnica, el control de riesgos puede quedar supeditado a la estrategia corporativa.
- El movimiento encaja en la progresiva integración de DeepMind en Google, que comenzó con la reorganización de agosto y el nuevo rol de Demis Hassabis como presidente. Para la compañía, integrar el laboratorio puede agilizar el paso de investigaciones a productos y reducir costes; el riesgo es que los investigadores estrella no quieran perder autonomía y se vayan a competidores. Señal a vigilar: fuga de talento en el equipo de seguridad o de DeepMind.
- La queja de 'menos visibilidad sobre los últimos modelos' es la más relevante: si la unidad de responsabilidad abandona el laboratorio, podría revisar los sistemas cuando ya estén casi listos para salir, no durante su desarrollo. Eso abriría la puerta a lanzar productos con riesgos no detectados a tiempo, con coste reputacional y regulatorio posterior. Si Google quiere demostrar que no pasa eso, debería hacer pública la metodología o los informes de seguridad.
- El contexto político es clave: Hassabis ha pedido que EE.UU. lidere un organismo independiente que pruebe los modelos avanzados antes de publicarlos. Integrar la seguridad en Asuntos Globales sitúa a Google justo en el centro de esa batalla normativa: en lugar de una auditoría técnica interna, tendrá un equipo alineado con su estrategia de política pública. Eso puede servirle para moldear futuras reglas, pero también refuerza la percepción de que la autorregulación corporativa está demasiado cerca de los intereses comerciales.