Karp (Palantir): habría que nacionalizar las empresas de IA para limitar su responsabilidad
El consejero delegado de Palantir defiende en CNBC que las compañías de inteligencia artificial tendrían que pasar a manos del Estado para que alguien pueda poner un techo a su responsabilidad legal. Una idea provocadora que toca el punto débil del sector: quién paga cuando un modelo causa un daño.
Alex Karp, cofundador y consejero delegado de Palantir, ha puesto encima de la mesa una idea que suena a bomba en un sector que vive de prometer crecimiento: si las empresas de inteligencia artificial no pueden asumir una responsabilidad legal sin límite, entonces tendrían que ser nacionalizadas. Lo ha defendido en el programa 'Squawk on the Street' de la cadena CNBC, en una conversación centrada en los riesgos de seguridad de la IA y en qué es lo que persiguen realmente los jefes de estas compañías.
La lógica que hay detrás es más sencilla de lo que parece. Si un sistema de IA se equivoca y provoca un daño grave —un diagnóstico erróneo, una decisión automatizada que arruina a alguien, un fallo en un sistema crítico—, la factura legal puede ser enorme y, en teoría, ilimitada. Ninguna empresa privada puede cubrir ese riesgo sin quedarse sin negocio. Karp viene a decir que, si la sociedad quiere que las compañías asuman ese nivel de riesgo, alguien tendrá que compartir el control y el coste: y ese alguien es el Estado. Nacionalizar, en su planteamiento, no es tanto una receta como una consecuencia lógica de no poner reglas claras al reparto de responsabilidad.
El contexto importa. Palantir cotiza en bolsa y es uno de los proveedores habituales de software de datos para administraciones públicas y clientes de defensa, así que su máximo responsable no habla desde la barra de un bar: habla desde una posición en la que el negocio con el sector público es una parte central de su actividad. Su intervención se produce además en plena discusión global sobre cómo regular la IA, con EEUU y Europa debatiendo qué obligaciones imponer a los modelos más potentes y sobre quién recae la culpa cuando fallan.
¿A quién afecta esto? De forma directa, al modelo de negocio de todo el sector de la IA: si el Estado entra en el capital o en el control, cambian los incentivos, la forma de captar inversión y hasta la valoración de estas compañías. De forma indirecta, refuerza la idea de que el futuro de la IA va a depender mucho más de la relación con los gobiernos que de la carrera tecnológica pura y dura. Para el inversor particular, la noticia no cambia las cuentas de nadie hoy, pero sí añade una pieza al puzle de cómo se repartirá el riesgo —y los beneficios— de una tecnología que ya mueve miles de millones.
Conviene leer el titular con distancia: lo más probable no es que se nacionalice nada, sino que acabe apareciendo un marco de responsabilidad limitada, seguros obligatorios y auditorías. Pero el hecho de que un CEO cotizado plantee abiertamente la opción pública dice mucho de la presión que siente el sector: el debate ya no es si habrá reglas, sino quién asume la factura cuando algo salga mal.
El análisis de Salseo
- Lo llamativo del titular esconde el problema real: ninguna empresa puede cubrir un riesgo legal ilimitado. Si el daño de un modelo de IA puede costar más que la compañía entera, el sector se enfrenta a una elección incómoda: vender con seguros carísimos, dejar fuera los usos más delicados o pasar el riesgo al Estado. Esa tensión de fondo es la que Karp pone sobre la mesa.
- No es un detalle menor que quien pide mano pública sea el jefe de una compañía que cotiza y que factura con administraciones y defensa. Cuanto más se acerque la IA al Estado, más dependerá el negocio de presupuestos públicos y ciclos políticos en lugar de la pura innovación: menos riesgo, pero también menos margen de maniobra y más años electorales de por medio.
- La señal concreta a vigilar no es el titular, sino el calendario legislativo: si EEUU o la UE convierten la responsabilidad de la IA en normas concretas, eso definirá los costes de cumplimiento del sector y, sobre todo, a quién dejan fuera de la liga. Las empresas con contratos públicos y capacidad de auditar sus sistemas están mejor colocadas que las que solo tienen un modelo.
- La lectura contraria: nacionalizar es una hipérbole. Lo más realista es un marco de responsabilidad limitada con auditorías obligatorias, que sería una buena noticia para las grandes del sector porque les quitaría el gran riesgo que hoy nadie sabe valorar. En el corto plazo, esto genera ruido y titulares, pero no toca las cuentas de Palantir.