Meta frenó el entrenamiento de IA con pulsaciones de empleados tras un desliz interno
El CTO de Meta revela que un investigador movió datos sensibles a un lugar equivocado, lo que llevó a pausar el polémico programa que registraba teclas y movimientos de ratón de sus trabajadores.
Meta se ha visto obligada a poner en pausa su 'Model Capability Initiative', un programa que instalaba software en los ordenadores de la mayoría de sus empleados en Estados Unidos para registrar sus pulsaciones de teclado y movimientos de ratón. El objetivo era usar esos datos para entrenar modelos de inteligencia artificial, pero la iniciativa generó un fuerte rechazo interno desde su lanzamiento en abril.
Ahora, el director de tecnología de Meta, Andrew Bosworth, ha dado nuevos detalles sobre el incidente que precipitó la suspensión en junio. En una entrevista con Nicholas Thompson, CEO de The Atlantic, Bosworth explicó que uno de los investigadores que trabajaba con esos datos los colocó por error en un lugar al que no debían ir, dentro de los sistemas internos de la compañía. Aunque el ejecutivo insistió en que no hubo una brecha de seguridad ni acceso indebido, el fallo fue suficiente para que Meta decidiera 'bloquearlo todo' hasta aclarar lo sucedido.
El programa había sido diseñado con salvaguardas de privacidad y solo un grupo reducido de personas tenía acceso a la información recopilada. Sin embargo, el traslado accidental de los datos, ya transformados, a un repositorio interno no autorizado encendió todas las alarmas. Bosworth recalcó que no se sospecha de ninguna mala intención, pero el incidente dejó al descubierto los riesgos de manejar información tan sensible, incluso dentro de una misma organización.
Además del problema de filtración interna, Bosworth admitió que el programa no estaba dando los resultados esperados. Los datos recopilados eran demasiado homogéneos: muchas pulsaciones similares que no aportaban la variedad necesaria para entrenar una IA de forma eficaz. 'La varianza es mucho más importante que un alto volumen de lo mismo', señaló el directivo. Por eso, pocas semanas después del lanzamiento, Meta ya había ampliado las opciones para que los empleados pudieran pausar indefinidamente la monitorización si no querían participar.
La polémica no es menor: el propio Bosworth había reconocido en una reunión interna que la moral de los empleados estaba 'probablemente en uno de los peores momentos' de los veinte años de historia de Meta. La combinación de un programa invasivo, la imposibilidad inicial de excluirse y el fallo en la gestión de datos ha puesto a la compañía en una situación delicada, justo cuando intenta acelerar en la carrera de la inteligencia artificial.
El análisis de Salseo
- El incidente revela una tensión de fondo en Meta: la necesidad de datos reales para entrenar IA choca con la privacidad y la confianza de sus propios empleados. Si ni siquiera internamente logran un equilibrio, el escrutinio externo será aún mayor.
- Que el programa generara datos poco variados sugiere que la monitorización masiva no siempre es la solución más inteligente. Meta tendrá que buscar fuentes de datos más diversas y menos invasivas si quiere que sus modelos aprendan comportamientos humanos reales.
- A corto plazo, la pausa puede calmar el malestar interno, pero la señal para los inversores es que la cultura corporativa de Meta sigue bajo presión. Habrá que vigilar si este tipo de programas se retoman con más transparencia o si la empresa opta por alternativas menos polémicas.