El fiscal de San Francisco, David Chiu, envió esta semana cartas de cese y desistimiento a Apple y Google para exigir la retirada de trece aplicaciones de 'nudificación' de sus tiendas, según publicó Wired. Las aplicaciones, basadas en inteligencia artificial, permiten transformar fotos de personas reales en imágenes explícitas: eliminan ropa, modifican rasgos, colocan a las víctimas en posiciones sexualizadas o superponen sus rostros en cuerpos desnudos ajenos.
Chiu advirtió en sus misivas que las tiendas de aplicaciones incumplen la legislación de California que prohíbe prestar apoyo a servicios generadores de pornografía deepfake. Pidió a Google la retirada de cinco aplicaciones y a Apple la de ocho. Wired no divulgó los nombres para evitar difundir las herramientas, pero constató que una de ellas superaba el millón de descargas y promocionaba funciones para sexualizar imágenes de mujeres o producir vídeos 'libres y sin censura'.
El fiscal declaró a la publicación estar 'absolutamente horrorizado' por la proliferación de esta tecnología, que victimiza sobre todo a mujeres y menores a gran escala. 'Estas imágenes se usan para acosar, humillar y amenazar a mujeres y niñas; hay víctimas con ideación suicida', afirmó. Su oficina estima que Apple y Google habrían obtenido 'millones de dólares en comisiones' al no tomar medidas más contundentes ni desarrollar sistemas de detección efectivos.
Google respondió que las cinco aplicaciones señaladas ya fueron suspendidas de Google Play por infringir sus políticas de contenido dañino y que la compañía retira habitualmente cientos de aplicaciones infractoras, además de restringir términos de búsqueda relacionados. Apple no realizó declaraciones en el momento de la información.