Apple ha actualizado sus políticas de la App Store para prohibir explícitamente las aplicaciones de 'nudify' que generan imágenes íntimas no consentidas mediante inteligencia artificial. Esta medida responde a la creciente crítica pública y a presiones legales, tras incidentes recientes donde usuarios de X emplearon Grok para crear deepfakes sexuales no consentidos, incluyendo a menores. Aunque Apple no retiró inicialmente a Grok ni a X, la compañía amenazó con eliminar Grok y, en julio, el fiscal general de San Francisco ordenó la retirada de 13 apps de nudify, las cuales Apple afirmó haber cumplido.
En la actualización anunciada el viernes, Apple exige a los desarrolladores que impidan y eliminen proactivamente imágenes no consentidas y sexuales como parte de sus requisitos de moderación de contenido. Las aplicaciones que no implementen salvaguardas adecuadas o que no remedian violaciones tras una notificación pueden ser eliminadas de la tienda. Además, la empresa aclaró que se prohíben las apps de 'bait-and-switch', que añaden o modifican funciones, incluida la 'nudificación', tras su aprobación. Finalmente, se especifica que cualquier app que facilite la trata de personas o la explotación de niños será retirada de la App Store y bloqueada de otras vías de distribución.