Los cerebros de la IA piden vigilancia sobre los sistemas que se mejoran solos
Los responsables de investigación de OpenAI, Anthropic, Microsoft y Meta firman un artículo en el que piden a los reguladores que auditen cuánto han automatizado la investigación en IA, por miedo a que el avance se les escape de las manos.
Un grupo de los investigadores más influyentes del sector de la inteligencia artificial ha firmado un artículo académico en el que pide a los responsables políticos que investiguen hasta qué punto las propias empresas del sector han automatizado la investigación en IA. El texto, publicado este lunes y recogido por The Wall Street Journal, lleva las firmas de Jakub Pachocki (científico jefe de OpenAI), Jack Clark (cofundador de Anthropic), Eric Horvitz (director científico de Microsoft) y Dawn Song, vicepresidenta de investigación en IA de Meta. No son perfiles cualquiera: son algunas de las personas que mejor conocen por dentro cómo se construyen los modelos más punteros del mundo.
Su advertencia es contundente. Según los autores, automatizar la investigación en IA —es decir, dejar que los propios sistemas diseñen versiones mejores de sí mismos— podría desatar una «explosión de inteligencia». Ese escenario comprimiría años de avances en cuestión de meses, o incluso menos, a un ritmo que los humanos seríamos incapaces no ya de controlar, sino de seguir y de entender. Dicho en cristiano: el problema no es solo que la máquina sea muy lista, sino que el proceso de hacerla aún más lista deje de depender de las personas.
La petición se suma a la ola de voces que reclaman una supervisión más estricta de una tecnología que avanza más deprisa que las reglas que la rodean. Lo llamativo del caso es quién firma: no son críticos externos ni agoreros de laboratorio, sino directivos de las compañías que están en primera línea del desarrollo. Los mismos que compiten por lanzar el modelo más potente son los que ahora piden que alguien audite cuánto de ese trabajo se ha dejado en manos de la propia máquina.
Para el inversor, la noticia no mueve hoy ninguna cuenta de resultados, pero sí apunta a por dónde puede ir la próxima regulación del sector. Si una petición así acaba convertida en obligación de reportar ante el supervisor el nivel de automatización de la investigación interna, las grandes tecnológicas tendrán que abrir una ventana que hasta ahora mantenían cerrada y asumir costes de cumplimiento. Y, como casi siempre que se regula una tecnología joven, la pregunta de fondo es quién puede permitirse cumplir: el gigante con ejércitos de abogados y equipos de seguridad, o el que va por libre.
El análisis de Salseo
- Lo que cambia el tono del debate: no hablan críticos externos, sino los responsables de investigación de OpenAI, Anthropic, Microsoft y Meta pidiendo que se audite su propio trabajo. Cuando avisan quienes están dentro del laboratorio, el riesgo deja de sonar a ciencia ficción y empieza a sonar a problema de gestión.
- El mecanismo que preocupa no es un modelo concreto, sino el bucle: si la IA acelera la investigación que crea mejor IA, cada vuelta del círculo es más rápida que la anterior. Por eso hablan de comprimir años en meses: el cuello de botella humano desaparece del proceso.
- Pedir reglas también puede ser una forma de subir el listón de entrada. A quien va en cabeza le cuesta menos cumplir una normativa exigente que a un recién llegado o a un proyecto de código abierto, así que la petición puede ser sincera y, a la vez, proteger la posición de los grandes.
- Señal concreta a vigilar: si esto se queda en un paper o se convierte en obligación de informar al regulador sobre cuánto de la investigación interna está automatizado. Si pasa lo segundo, sabremos por primera vez cuánto de verdad hay detrás de las promesas de autonomía de cada compañía.