El fiscal general de Manhattan anunció el lunes la incautación de 12 dominios utilizados para publicar y vender videos de deepfakes no consentidos de celebridades y figuras públicas. Esta acción, realizada bajo las leyes de procedimiento penal de Nueva York, constituye una de las mayores operaciones de eliminación de sitios web de contenido explícito con inteligencia artificial hasta la fecha. Según el despacho, aproximadamente 1.200 personas, predominantemente mujeres, fueron representadas en imágenes y vídeos sexuales no consentidos, incluyendo influencers, actores, activistas, deportistas, músicos y políticos.
El fiscal Alvin Bragg calificó estas violaciones como una grave amenaza a la privacidad y el bienestar mental de las víctimas, instándolas a contactar con la oficina de ciberdelincuencia. Las investigaciones para identificar a los responsables de la creación y distribución de estos materiales continúan en curso. La incautación, que se produjo tras la emisión de una orden judicial por el Tribunal Supremo de Nueva York, marca un hito en la lucha contra la industria oscura de los deepfakes, que ha proliferado desde finales de 2017. Los sitios incautados, que prometían videos realistas en segundos, fueron observados por WIRED con avisos de retirada de contenido antes de la declaración oficial. Expertos como Leonie Oehmig del Instituto de Diálogo Estratégico destacan que esta acción demuestra la viabilidad de la aplicación de leyes estatales para desactivar infraestructura técnica y evitar el acceso mediante VPN. Aunque la tecnología de deepfakes afecta principalmente a mujeres no famosas, las celebridades han denunciado el daño emocional y las dificultades para eliminar este contenido. El fiscal no ha revelado los nombres de los sitios, pero se estima que los vídeos fueron visualizados millones de veces, con algunos alojando perfiles de políticos europeos y estadounidenses.