La ciudad de San Francisco ha puesto en la mira a dos de las empresas tecnológicas más grandes del mundo. El fiscal de la ciudad, David Chiu, envió cartas de cese y desistimiento a Apple y Google exigiendo la eliminación inmediata de 13 aplicaciones de sus tiendas que permiten crear imágenes íntimas falsas generadas por inteligencia artificial sin el consentimiento de las personas.
Aplicaciones de «intercambio de rostros» con un lado oscuro
Las aplicaciones señaladas se promocionan como herramientas de «intercambio de rostros», pero su verdadero potencial es mucho más siniestro. Según las cartas legales, estos programas permiten a los usuarios generar deepfakes de naturaleza sexual con solo subir una foto. La investigación de la oficina del fiscal identificó ocho aplicaciones en la App Store de Apple y cinco en Google Play que operan de esta manera.
Chiu no se anduvo con rodeos al calificar la situación. «Generar imágenes íntimas no consensuadas es ilegal, dañino y completamente inaceptable», declaró a WIRED. El fiscal, cuya oficina ya había tomado acciones legales contra 16 sitios web populares de deepfakes, afirma que ambas compañías han «ganado millones de dólares en comisiones» gracias a estas aplicaciones a través de pagos integrados.
Una violación directa a la ley de California
Las cartas legales argumentan que Apple y Google están «ayudando e incitando» la venta de imágenes deepfake explícitas y deben romper sus relaciones comerciales con los desarrolladores. La ley de California prohíbe cualquier actividad que «facilite a sabiendas» o «ayude o incite imprudentemente» la creación de pornografía deepfake no consentida.
Además, en 2025, el estado aprobó una ley que permite a las víctimas emprender acciones civiles contra terceros facilitadores de dicho material. Las cartas de la fiscalía advierten que ambas compañías podrían enfrentar sanciones civiles y les han dado un plazo de 28 días para responder.
«Apple y Google están lucrando con aplicaciones que explotan a mujeres y niñas generando deepfakes íntimos no consensuados», afirmó Chiu. «Mientras las empresas cortaron lazos con algunas aplicaciones problemáticas, Apple y Google tienen la responsabilidad de ser proactivos y vigilantes para prevenir el abuso sexual».
Un problema conocido que persiste
El problema no es nuevo para estas plataformas. Según las cartas enviadas, ambas empresas han sido notificadas sobre su papel en procesar pagos para compras ilegales durante casi un año, pero han continuado haciéndolo. En enero y nuevamente en abril de este año, el Tech Transparency Project publicó informes identificando alrededor de 100 aplicaciones en ambas tiendas que permitían crear este tipo de contenido.
Se estima que estas aplicaciones, identificadas en las investigaciones de TTP, habían sido descargadas colectivamente alrededor de 480 millones de veces y podrían haber generado ingresos combinados de aproximadamente 120 millones de dólares.
Google, por su parte, confirmó que ha tomado medidas. Dan Jackson, portavoz de Google, declaró a WIRED que la compañía ha eliminado «cientos» de aplicaciones con funciones de desnudez por violar sus políticas, incluidas las cinco aplicaciones de Android señaladas por la oficina de Chiu. Además, afirmó que han restringido términos de búsqueda relacionados como ‘nudify’. Apple no proporcionó comentarios.
El impacto en las víctimas
La capacidad de crear estas imágenes tiene consecuencias devastadoras. «Estas imágenes se utilizan para acosar, humillar y amenazar a mujeres y niñas», explicó Chiu. «Esta industria tiene un impacto horrible en la reputación, la salud mental y la pérdida de autonomía. Ha habido víctimas que han llegado a tener pensamientos suicidas». Reportajes anteriores de WIRED e Indicator Media han descubierto incidentes en al menos 90 escuelas donde se crearon imágenes de abuso sexual deepfake de menores.
En una investigación separada publicada en mayo, investigadores de la Universidad de Cornell y la Universidad de Georgetown identificaron 420 aplicaciones que ofrecían capacidades generales de intercambio de rostros. Al probar 155 de ellas para ver si podían usarse para crear deepfakes con imágenes de desnudos, descubrieron que en el 70% de los casos era posible, sin que las aplicaciones incluyeran medidas de seguridad para prevenirlo.
¿Qué sigue?
Chiu ha dejado claro que su oficina no se detendrá aquí. «Mi esperanza es que Apple y Google eliminen inmediatamente estas aplicaciones y fortalezcan sus sistemas de selección», concluyó. «Es nuestra esperanza que estas empresas hagan lo correcto, pero si no lo hacen, tendremos que considerar todas nuestras opciones legales».









