Un ex de DeepMind se suma a los avisos de que la IA podría «matar a todos los humanos»
Un antiguo empleado de Google DeepMind advierte de que la inteligencia artificial podría acabar con la humanidad y de que el tiempo para evitarlo se agota. El aviso engorda la lista de voces del propio sector que piden límites, aunque no señala a ninguna empresa concreta.
Un antiguo empleado de Google DeepMind ha vuelto a encender las alarmas sobre la inteligencia artificial. Según recoge Reuters, este ex trabajador del laboratorio de IA de Google aseguró este lunes que la tecnología podría llegar a «matar a todos los humanos» y advirtió de que el tiempo para evitar ese desenlace podría estar agotándose. No es una voz aislada: el mensaje se suma a los de otros investigadores punteros del sector que en los últimos años han lanzado advertencias parecidas sobre los riesgos de llevar la IA demasiado lejos.
Lo llamativo de este tipo de avisos no es solo lo que dicen, sino quién los dice. No hablamos de un crítico externo ni de un tertuliano catastrofista, sino de alguien que ha trabajado dentro de uno de los laboratorios que están construyendo esta tecnología. Cuando el aviso llega desde dentro, el debate cambia de tono: la pregunta deja de ser si la IA es peligrosa en abstracto y pasa a ser quién decide qué límites se ponen, cuándo y con qué controles. El conocido como riesgo existencial no se refiere a un robot rebelde de película, sino a sistemas tan capaces y tan difíciles de controlar que puedan actuar en contra de los intereses humanos en ámbitos críticos.
En el sector conviven dos relatos sobre esto. Uno pone el foco en el escenario extremo —que la humanidad pierda el control de la tecnología que ella misma ha creado— y otro, más terrenal, sostiene que obsesionarse con el fin del mundo distrae de problemas que ya están aquí: sesgos en los algoritmos, desinformación, uso de contenidos sin permiso o el impacto en el empleo. La mayoría de los expertos no niega los riesgos de largo plazo, pero discute la urgencia y el orden de las prioridades. Mientras tanto, los reguladores de varios países llevan tiempo discutiendo normas para poner coto al desarrollo de estos sistemas, y cada declaración de este tipo añade munición a quienes piden reglas más duras.
Para el inversor, la letra pequeña de esta noticia es que no menciona a ninguna empresa cotizada ni un hecho concreto que mueva ingresos, márgenes o precios. Es un titular sobre el clima del sector, no sobre resultados. Eso no significa que no importe: el canal por el que este tipo de advertencias acaba llegando a la cuenta de resultados es la regulación. Si las voces del propio sector insisten en que hacen falta frenos, es más probable que esos frenos lleguen en forma de auditorías obligatorias, exigencias de transparencia y límites al entrenamiento de modelos, algo que encarece desarrollar IA y que en teoría favorece a los grandes jugadores frente a los pequeños, porque son los que pueden asumir ese coste.
El análisis de Salseo
- El aviso no habla de un robot rebelde, sino de sistemas tan capaces que resultan difíciles de controlar: el fondo del debate es si se pueden poner límites antes de que se usen en ámbitos críticos. Que el mensaje venga de alguien de dentro de un laboratorio puntero pesa mucho más que si lo dijera un crítico externo.
- Para la industria, este goteo de titulares no mueve ingresos hoy, pero sí alimenta la presión regulatoria. Si acaba traducido en normas de seguridad y auditoría más estrictas, encarece entrenar y desplegar modelos, y eso suele jugar a favor de los grandes (tienen caja y equipo legal) frente a los pequeños.
- Lectura contraria: hay quien sostiene que obsesionarse con el fin del mundo distrae de daños que ya están ocurriendo (sesgos, desinformación, derechos de autor, empleo), y quien avisa de que el relato del riesgo extremo puede servir a las grandes tecnológicas para pedir reglas que solo ellas pueden cumplir.
- Señal concreta a vigilar: no el titular, sino si estas advertencias vienen seguidas de compromisos verificables —auditorías externas, límites al entrenamiento, más transparencia— o si se quedan en declaraciones. Ahí se verá si el miedo se convierte en coste real para el sector.