La IA de Meta borra cuentas por error y luego te pide que hables con... otra IA
Usuarios de Facebook e Instagram denuncian que la inteligencia artificial de Meta suspendió sus cuentas sin motivo. Lo peor: para recuperarlas, el soporte también depende de sistemas automatizados.
Imagina despertarte un día y descubrir que tu cuenta de Instagram o Facebook ha desaparecido. Sin aviso, sin explicación. Eso es lo que les ha pasado a varios usuarios de las plataformas de Meta, según informa The New York Times. La causa no fue un hacker ni un error humano: fue la propia inteligencia artificial de la compañía la que decidió, por su cuenta, que esas cuentas infringían las normas.
El problema no es nuevo, pero sí está escalando. Meta lleva años invirtiendo fuerte en sistemas automáticos para moderar contenidos y detectar comportamientos sospechosos. La idea es buena: con miles de millones de usuarios, es imposible que un ejército de humanos revise cada publicación. Pero cuando la IA se equivoca, las consecuencias pueden ser muy frustrantes. Los afectados aseguran que no hicieron nada malo y que, de repente, se quedaron sin acceso a sus fotos, contactos y recuerdos.
Lo más irónico del caso es el proceso para intentar solucionarlo. Cuando un usuario reclama, no habla con una persona de carne y hueso. Se encuentra con un chatbot o un sistema automatizado que, en muchos casos, vuelve a revisar el caso con la misma tecnología que provocó el error. Es como pedirle al incendio que apague el fuego. Los usuarios se sienten atrapados en un bucle sin salida, donde la máquina decide su destino y la misma máquina les dice que no hay nada que hacer.
Meta reconoce que sus sistemas no son perfectos y que a veces se producen "falsos positivos". La empresa asegura que trabaja para mejorar la precisión de sus algoritmos y que ofrece canales de apelación. Pero la realidad es que muchos usuarios no logran recuperar sus cuentas o tardan semanas en conseguirlo. Para un creador de contenido o un pequeño negocio que depende de estas plataformas, perder la cuenta puede significar perder ingresos.
Este caso pone sobre la mesa un debate más amplio: ¿hasta qué punto estamos dispuestos a ceder el control a las máquinas? La inteligencia artificial es una herramienta poderosa, pero cuando se trata de decisiones que afectan a personas reales, la falta de supervisión humana puede generar indefensión. Mientras tanto, los usuarios de Meta seguirán cruzándose los dedos para que el algoritmo no los confunda con un villano.
El análisis de Salseo
- El uso masivo de IA para moderar contenidos es un arma de doble filo para Meta: reduce costes operativos, pero los errores pueden erosionar la confianza de los usuarios y atraer el escrutinio regulatorio. Si la gente teme perder su cuenta sin motivo, podría reducir su actividad en las plataformas, afectando los ingresos publicitarios a largo plazo.
- La dependencia de sistemas automáticos para resolver quejas crea un círculo vicioso: la misma tecnología que falla es la que "revisa" las apelaciones. Esto revela una carencia en la inversión en soporte humano, algo que los reguladores podrían terminar exigiendo, sobre todo en la Unión Europea con la Ley de Servicios Digitales.
- Para los inversores, la clave estará en las métricas de usuarios activos y en posibles multas o demandas colectivas. Si este tipo de incidentes se vuelven frecuentes, podrían aparecer como un lastre en los resultados trimestrales de Meta, especialmente en un entorno donde el crecimiento de usuarios se está desacelerando.
- Hay que vigilar si Meta anuncia cambios en sus políticas de moderación o invierte más en equipos humanos de revisión. Cualquier aumento significativo en los gastos operativos por este motivo sería una señal de que el problema es más grave de lo que parece y podría impactar los márgenes.