San Francisco ordena a Apple y Google eliminar apps que 'desnudan' con IA
La ciudad exige retirar decenas de aplicaciones que crean deepfakes íntimos sin consentimiento, acusando a los gigantes tecnológicos de lucrarse con ellas.
La ciudad de San Francisco ha dado un ultimátum a Apple y Google: deben eliminar de sus tiendas de aplicaciones todas esas apps conocidas como 'nudify', programas que usan inteligencia artificial para quitar digitalmente la ropa a las personas en las fotos. El fiscal municipal, David Chiu, les ha enviado cartas en las que les recuerda que la ley de California ya considera delito facilitar o ayudar de forma imprudente a la creación de pornografía deepfake no consentida, y que desde 2025 las víctimas pueden incluso demandar a quienes actúen como intermediarios.
Según los documentos, ambas compañías llevan meses sobre aviso. El Tech Transparency Project (TTP) ya les alertó en enero y abril de este año de que en sus tiendas había docenas de apps que vendían imágenes íntimas no consentidas a cambio de pagos procesados por las propias Apple y Google. El informe de abril del TTP fue especialmente duro, acusando a las dos empresas de 'dirigir' intencionadamente a los usuarios hacia este tipo de aplicaciones y calificándolas de 'participantes clave' en la difusión de herramientas de IA capaces de sexualizar a personas reales.
Chiu ha ido más allá y ha declarado a Wired que estima que ambas compañías podrían haber ingresado 'millones de dólares en comisiones' procedentes de estas apps. Las cartas advierten de posibles sanciones civiles por infringir la ley y dan un plazo de 28 días para que Apple y Google se pongan en contacto con la ciudad. TechCrunch ha intentado recabar la versión de las dos empresas, pero por ahora no ha habido respuesta oficial.
El problema de la pornografía deepfake ha afectado sobre todo a mujeres famosas, pero las aplicaciones 'nudify' han democratizado el acoso: cualquiera con una foto pública puede convertirse en víctima. La ofensiva legal de San Francisco pone contra las cuerdas a las plataformas que, a pesar de los avisos, han seguido alojando y beneficiándose de un negocio que explota la intimidad de las personas.
El análisis de Salseo
- La presión regulatoria sobre las grandes tecnológicas por los contenidos generados con IA se intensifica. Si San Francisco sienta precedente, otras jurisdicciones podrían seguir el mismo camino, aumentando el riesgo legal y reputacional para Apple y Google.
- El verdadero golpe no es solo la retirada de apps, sino la acusación de que ambas compañías se han lucrado a sabiendas. Si se demuestra que procesaron pagos tras los avisos, las multas y demandas civiles podrían ser millonarias.
- Para Alphabet (Google), esto reabre el debate sobre su responsabilidad como intermediario. Aunque su negocio principal no depende de las comisiones de la Play Store, un fallo en su contra podría obligarle a revisar sus sistemas de moderación y afectar a su relación con desarrolladores.
- A largo plazo, este caso podría acelerar la creación de estándares más estrictos para las apps de IA en las tiendas, algo que los inversores deben vigilar porque puede traducirse en mayores costes de cumplimiento y en una ralentización del lanzamiento de nuevas herramientas.