La junta de vigilancia de Meta ordena retirar deepfakes en Reino Unido y critica sus salvaguardas
El órgano de supervisión de Meta, cuyas decisiones son vinculantes, obliga a Facebook a borrar dos vídeos falsos generados con IA y carga contra unas salvaguardas "manifiestamente insuficientes".
La junta de supervisión de Meta —una especie de "tribunal supremo" creado por la propia compañía en 2020 y cuyas decisiones son de obligado cumplimiento— ha ordenado a Facebook retirar dos vídeos falsos generados con inteligencia artificial. Uno de ellos muestra a un concejal del Partido Laborista en Escocia atribuyéndose comentarios incendiarios sobre los refugiados que nunca pronunció. El otro ridiculiza a una joven musulmana voluntaria de una campaña de salud menstrual. En ambos casos, la junta concluye que Meta se equivocó al dejar el contenido publicado y que sus protecciones frente a los deepfakes son "de forma sistemática y de raíz inadecuadas".
En el caso escocés, el vídeo presenta al concejal, cuyo nombre no se especifica, diciendo frases falsas sobre los refugiados. La junta señala que el material parecía generado por IA, entre otras pistas porque el audio no estaba del todo sincronizado con el movimiento de la cara del político. Lo llamativo es que, incluso cuando la propia junta se lo planteó directamente a la empresa, Meta decidió que el vídeo no incumplía sus normas de contenido y que tampoco merecía la etiqueta de contenido generado por IA. Para el órgano supervisor, el vídeo debería haberse eliminado por vulnerar las reglas de conducta de odio, ya que atribuye comportamientos delictivos y sexuales depredadores a los refugiados como colectivo, y debería haber llevado además la marca de "IA de alto riesgo".
La segunda resolución va en la misma dirección. La junta ordena retirar de Facebook un vídeo manipulado con IA que se burla de una joven musulmana en Europa que participaba en una campaña para mejorar la educación sobre salud menstrual y reducir el estigma en torno a problemas de salud de mujeres y niñas de minorías étnicas. Los vídeos e imágenes manipulados burlándose de ella acumularon decenas de millones de visualizaciones en internet, también en plataformas de Meta. La junta destaca uno de esos vídeos —en el que aparece haciendo ejercicios absurdos y comiendo comida basura— como un incumplimiento de la política de acoso e intimidación de la compañía, y recomienda tres cambios de política, entre ellos ampliar la definición de "imagen manipulada no deseada" para cubrir deepfakes de personas privadas diciendo o haciendo cosas que nunca dijeron ni hicieron.
Más allá de los dos casos concretos, el órgano supervisor pide nueve cambios de calado en las políticas de Meta: que sus algoritmos penalicen el contenido etiquetado como "de alto riesgo" para que aparezca menos en los muros de los usuarios, que se añada una pantalla de advertencia que obligue a hacer clic antes de ver ese material, que se castigue con más dureza a las cuentas que lo comparten de forma reiterada y que haya más transparencia sobre cuándo se aplican las etiquetas de IA. "De los políticos a los ciudadanos de a pie, los deepfakes generados con IA se usan cada vez más para acosar y silenciar a las mujeres en el debate público", ha advertido Pamela San Martín, copresidenta de la junta, que habla de un patrón "más amplio y preocupante" en el que las mujeres que participan públicamente son objeto desproporcionado de acoso y desinformación. La empresa, por su parte, ha sido contactada para recoger su versión y no ha respondido por el momento.
El asunto toca dos fibras sensibles para Meta a la vez: la reputación y el producto. Si la compañía acaba aplicando las recomendaciones —empezando por hundir en el algoritmo el contenido marcado como de alto riesgo— estará restando visibilidad a un tipo de publicación que genera interacción, y la interacción es la materia prima con la que vende publicidad. Al mismo tiempo, no moverse tiene su propio coste: reguladores y anunciantes llevan tiempo mirando con lupa cómo la plataforma gestiona los falsos generados por IA, y este dictamen es munición lista para quien quiera exigir normas más duras en el Reino Unido y en Bruselas.