DeepMind crea un instituto para abrir el debate sobre la inteligencia artificial general
Google y Google DeepMind lanzan el DeepMind Institute para ordenar el debate sobre la IA general, con propuestas concretas como un organismo de estándares en EE. UU. y posible desaceleración coordinada del sector.
Google y Google DeepMind han puesto en marcha el DeepMind Institute, una iniciativa anunciada el miércoles 17 de septiembre y con la que ambas compañías quieren ampliar la conversación pública sobre la inteligencia artificial general (AGI), esa tecnología que aún no existe pero que, según muchos expertos, sería capaz de igualar o superar a los humanos en casi cualquier tarea. Al frente del instituto figuran Shane Legg, cofundador de DeepMind y editor jefe del proyecto; James Manyika, directivo de Google, y Demis Hassabis, presidente de Google DeepMind.
El Instituto se presenta con una colección inaugural de cuatro ensayos firmados por investigadores y directivos. Los temas: políticas económicas para gestionar una eventual disrupción provocada por la AGI, cómo conservar un razonamiento de los modelos que los humanos puedan leer y revisar, principios para el florecimiento humano y un marco para evaluar los modelos de IA más avanzados. Uno de los textos, obra de los investigadores de seguridad de DeepMind Rohin Shah y Anca Dragan, sostiene que la creciente opacidad de la IA —la dificultad para ver y comprobar paso a paso cómo razona un modelo— no es inevitable, y plantea que reguladores y desarrolladores aborden de frente ese intercambio entre capacidad y seguridad. Entre las medidas que sugieren está limitar la llamada «profundidad serial opaca», es decir, la cantidad de cómputo secuencial que un modelo puede ejecutar sin dejar un rastro de razonamiento legible, o exigir a los creadores que demuestren que los sistemas menos transparentes siguen siendo igual de vigilables.
En otro de los ensayos, Hassabis propone crear un organismo de estándares de IA de frontera liderado por Estados Unidos para evaluar los modelos más avanzados. Según su planteamiento, los desarrolladores enviarían sus modelos de forma voluntaria hasta 30 días antes de su lanzamiento y, una vez que el sistema de evaluación demuestre funcionar, superar esas pruebas podría convertirse en un requisito obligatorio para desplegar modelos punteros en el país. El organismo empezaría diseñando las evaluaciones junto a las empresas de IA, pero con el tiempo elaboraría pruebas independientes y no reveladas —lo que el texto llama pruebas «guardadas»— para evitar que los laboratorios adapten sus modelos a exámenes conocidos. Hassabis añade que el marco podría «endurecerse si la seriedad de la situación lo exige», sin descartar una ralentización coordinada entre los desarrolladores de IA de frontera.
Estos ensayos llegan en un momento en el que el debate sobre seguridad en la industria ha pasado de las grandes declaraciones de preocupación a propuestas concretas sobre transparencia, escrutinio externo y, si las salvaguardas no llegan a tiempo, frenazos pactados. Ese giro se aceleró esta misma semana, cuando varios líderes del sector respaldaron partes del llamamiento de Dario Amodei, consejero delegado de Anthropic, a «marcar el ritmo» del desarrollo de la IA de frontera en lugar de correr sin límites.
El análisis de Salseo
- Lo más tangible de la propuesta de Hassabis es el plazo: enviar los modelos hasta 30 días antes de su lanzamiento para revisión. Si un día eso deja de ser voluntario y pasa a ser obligatorio, el tiempo que una empresa tarda en sacar un modelo al mercado deja de depender solo de su capacidad de cómputo y pasa a depender también de un calendario administrativo.
- El detalle revelador es quién lo firma: Hassabis dirige una de las empresas que más invierte en ir rápido. Que el propio sector proponga un posible frenazo coordinado sugiere que las compañías prefieren escribir ellas las reglas antes de que se las impongan desde fuera, y de paso quitar hierro al relato de que la IA avanza sin control.
- El concepto de «profundidad serial opaca» afecta al corazón de cómo funcionan los modelos actuales: cuanto más potentes son, más razonan en pasos internos que el usuario no ve. Si se limita esa computación invisible, algunas arquitecturas punteras podrían volverse más caras o menos eficaces, así que la próxima señal a vigilar es si los futuros modelos publican rastros de razonamiento verificables.
- Ojo con el matiz: son ensayos y propuestas, no normativa aprobada. Nadie está obligado a nada y el instituto es una iniciativa privada, así que su efecto real dependerá de si legisladores y reguladores recogen el guante o de si se queda en una operación de imagen con la que influir en cómo se redacte la futura ley.