El fiscal de la ciudad de San Francisco, David Chiu, envió el jueves cartas de cese y desistencia a Apple y Google exigiendo la eliminación de 13 aplicaciones de intercambio de rostros que permiten crear imágenes íntimas no consensuadas mediante inteligencia artificial. Las notificaciones legales sostienen que los gigantes tecnológicos deben dejar de "ayudar y fomentar" la venta de deepfakes explícitos y cortar sus relaciones comerciales con los desarrolladores. Chiu afirma que Apple y Google probablemente han obtenido "millones de dólares en comisiones" con estas apps y les exige reforzar su moderación para impedir que aparezcan en sus tiendas.
Ambas compañías cuentan con políticas para desarrolladores que prohíben el contenido pornográfico y el acoso en sus plataformas. Google aseguró a WIRED que ha eliminado "cientos" de aplicaciones con funciones de desnudez por incumplimiento de sus normas, incluidas las cinco apps de Android señaladas por Chiu. Apple no respondió antes de la publicación. Investigaciones previas documentaron alrededor de 100 aplicaciones de este tipo en la App Store y Play Store, con unas 480 millones de descargas acumuladas y unos 120 millones de dólares en ingresos conjuntos estimados.
Un estudio de las universidades Cornell y Georgetown identificó 420 aplicaciones de intercambio facial, de las cuales probaron 155: el 70% permitió crear deepfakes con desnudos sin medidas de seguridad. Chiu adelantó que su despacho continuará persiguiendo el problema tras quedar "absolutamente horrorizado" por la magnitud del daño.