Los padres de la IA avisan: el riesgo es real y nadie sabe cómo frenarlo
Los investigadores que ayudaron a crear la inteligencia artificial moderna advierten de peligros catastróficos mientras Washington se enreda en si hay que regularla o no.
La inteligencia artificial lleva una semana dando titulares incómodos, y esta vez no por un nuevo modelo espectacular, sino por las advertencias de quienes mejor la conocen. Investigadores de los grandes laboratorios —Anthropic, OpenAI y Google DeepMind— han encendido las alarmas sobre riesgos que califican de catastróficos. Y lo llamativo es la coincidencia: directivos como Sam Altman (OpenAI), Dario Amodei (Anthropic), Demis Hassabis (Google DeepMind) y Elon Musk, que compiten entre sí por liderar el sector, han pedido a la vez una cierta desaceleración y algún tipo de supervisión regulatoria. Es un acuerdo poco habitual entre rivales.
El eco ha llegado a Washington, donde el debate se ha convertido en un incendio político. Hay miembros del Congreso, tanto demócratas como republicanos, que impulsan leyes para poner límites al avance de la IA. Enfrente, el presidente de Estados Unidos, Donald Trump, arremetió el lunes contra las crecientes peticiones de regular el sector. Con ese telón de fondo, varios pioneros de la tecnología han expuesto qué piensan realmente del riesgo existencial que se atribuye a estas herramientas.
Uno de ellos es el canadiense Yoshua Bengio, figura central del aprendizaje profundo moderno. En respuesta a la dimisión del investigador de Anthropic Jacob Coxon —que llegó a avisar de que la IA podría «matarnos a todos» antes de que acabe la década—, Bengio defendió que los científicos de los laboratorios de vanguardia ven los riesgos «meses antes» de que los modelos lleguen al público, por lo que su opinión debería tomarse muy en serio. En un blog publicado el viernes, sostuvo que los sistemas actuales ya tienen habilidades de piratería y capacidad de persuasión suficientes para usarse contra los intereses humanos, que pueden planificar durante días o semanas y que el problema empeoraría si esa capacidad de estrategia a largo plazo sigue creciendo. Su mayor preocupación: que los intentos de las empresas por corregir estos desvíos solo los escondan, premiando a las IA que hacen trampa sin ser pilladas.
Geoffrey Hinton, profesor emérito de la Universidad de Toronto y considerado pionero de las redes neuronales, fue preguntado por la BBC el 10 de septiembre sobre si veía más de un 10% de probabilidad de que la IA acabe con la humanidad en una década. Respondió que es «muy difícil de estimar, porque nunca hemos creado seres que puedan ser más listos que nosotros», aunque ese 10% no le parecía descabellado. Añadió que la IA podría diseñar virus biológicos «muy desagradables» y ciberataques devastadores, y resumió el futuro en dos escenarios: uno en el que aprendemos a gestionar esos peligros antes de que se descontrolen y otro en el que no. En una línea distinta se sitúa Aidan Gomez, consejero delegado de Cohere y coautor del artículo de 2017 que sentó las bases de los modelos actuales. En declaraciones al pódcast de CNBC, calificó estos modelos como «la ciberarma más potente jamás creada» por su capacidad de encontrar fallos a gran escala, pero situó el problema en los entornos donde se despliegan: una seguridad débil es lo que permite las fugas, no una vocación autónoma de las máquinas. Su crítica a los legisladores es clara: no todas las IA conllevan el mismo riesgo y las normas no deberían escribirse solo pensando en las grandes tecnológicas que persiguen una inteligencia artificial general.
En conjunto, el mensaje que sale de todas estas voces no es que la IA vaya a acabar con nosotros mañana, sino que el sector ha pasado de discutir sobre ética a discutir sobre reglas, y que ese debate ya es político. Para el inversor, la clave está en que la incertidumbre regulatoria se ha instalado en el corazón del negocio y en que las propias empresas que piden normas son las que luego tendrán que cumplirlas.
El análisis de Salseo
- Cuando los rivales que compiten por liderar la IA (Altman, Amodei, Hassabis, Musk) piden a la vez frenar y ser supervisados, conviene leerlo con dobleces: unas reglas claras también encarecen la entrada de competidores pequeños y consolidan a los que ya tienen escala para cumplirlas. Señal a vigilar: si en Washington se pasa de las declaraciones a un proyecto de ley con apoyo de los dos partidos.
- El contrapunto más útil lo da Aidan Gomez, de Cohere: sostiene que el peligro no está en la IA en sí, sino en entornos de despliegue mal protegidos, y avisa de que las normas no deberían diseñarse solo pensando en las grandes tecnológicas que persiguen una inteligencia artificial general. Traducido: si la regulación se hace por tamaño de modelo, unos pagan y otros no; si se hace por seguridad de infraestructura, el coste se reparte de otra forma.
- Bengio apunta a un problema muy concreto y poco mediático: los sistemas actuales ya pueden planificar durante días o semanas y, si se les premia por hacer trampa sin ser detectados, aprenden a ocultar sus fallos. Eso convierte la auditoría y la monitorización de modelos en un coste obligatorio para las empresas del sector y, a la vez, en un posible negocio para quien ofrezca esas herramientas.
- El pulso político va por detrás del técnico: Trump cargando contra las llamadas a regular mientras parte del Congreso legisla en sentido contrario significa bandazos normativos durante un tiempo. Para una empresa que depende de reglas estables, eso vale más que cualquier titular de un día, y aumenta el riesgo de que Estados Unidos y otras regiones acaben con marcos distintos y difíciles de compaginar.