Un ingeniero de Google DeepMind dimite por miedo a una IA superinteligente

Robert O'Callahan, hasta ahora empleado de Google DeepMind (la división de inteligencia artificial de Alphabet), ha anunciado que deja la compañía. Lo ha hecho en un mensaje en la red social X y con una carta de dimisión publicada en su blog personal que, según él, envió a sus compañeros el viernes. Su motivo no es económico ni laboral: cree que el rumbo de la inteligencia artificial es peligroso. "No puedo mirar hacia otro lado", escribió, y calificó de "intrínsecamente irresponsable" perseguir el desarrollo de una IA superinteligente en el corto plazo.

El detalle técnico importa para entender su queja. O'Callahan trabajaba en un equipo que desarrollaba una nueva generación de chips cuyo objetivo era hacer la IA "mucho más rápida y barata" (es decir, reducir el coste y el tiempo de respuesta de los modelos). Precisamente eso, que la IA avance cada vez más deprisa y más barata, es lo que a él le preocupa: "Creo firmemente que el progreso de la IA es hoy demasiado rápido", señaló, y añadió que también tiene dudas sobre hacia dónde lleva todo esto. En otro texto más largo matizó su postura: no cree que el riesgo de una catástrofe por superinteligencia sea del 100%, pero sí lo ve "real, aunque incierto", y sostiene que solo eso ya obliga a hacer un esfuerzo enorme para reducirlo. O'Callahan, que se define como cristiano y dice estar radicado en Nueva Zelanda, asegura que tampoco podría seguir con su trabajo por una cuestión de coherencia personal. Google ha declinado hacer comentarios, y Business Insider no ha podido confirmar cuánto tiempo estuvo en la empresa.

Su salida no es un caso aislado. Este mes, Jacob Coxon dimitió de la empresa de IA Anthropic alegando que el sector está construyendo una tecnología que quizá no pueda controlar; sus palabras avivaron el debate sobre si la IA avanzada podría llegar a ser una amenaza para la humanidad. Antes, en verano, el investigador de Google DeepMind Bilal Chughtai también dejó la compañía por temores similares. Aun así, O'Callahan marca distancias: dice que su decisión no está coordinada con esa oleada de dimisiones virales ni con los avisos de "frenazo" a la IA, y que la fecha la tenía pensada desde hace tiempo porque el lunes empezaba una ruta de mochilero de diez días con amigos. También quiso dejar claro que, en su opinión, los empleados que alertan sobre los riesgos de la IA lo hacen de buena fe: no ha visto pruebas de que alguien exagere esos riesgos para inflar la cotización de su empresa o para regular en contra de sus competidores.

¿Y ahora qué? O'Callahan no abandona el sector: piensa seguir trabajando en inteligencia artificial por otras vías, por ejemplo estudiando cómo usar agentes para detectar errores en el código. Es decir, se va de Google, pero no de la IA. Para el inversor, la noticia es más una señal del clima interno del sector que un golpe al negocio: no hay cifras, ni cambios en los planes de producto, ni movimientos en bolsa asociados. Lo relevante es el patrón: los grandes laboratorios llevan meses perdiendo a algunos de sus perfiles más críticos con la seguridad, y ese goteo alimenta el debate regulatorio y la presión sobre cómo se desarrolla y se comunica la IA más potente.