Meta no detectó cientos de anuncios con abuso sexual infantil generado con IA

Fuentes: Meta Failed to Catch Hundreds of AI Child Abuse Ads. Some Included Images of Real Kids

Investigadores de la organización Tech Transparency Project (TTP) identificaron más de 250 anuncios adicionales en Facebook, Instagram, Messenger, Threads y la red publicitaria de Meta que contenían material de abuso sexual infantil (CSAM), algunos con imágenes de menores reales, desde principios de agosto. El hallazgo eleva a más de 350 los anuncios abusivos detectados en las plataformas de Meta desde finales del año pasado. Entre los casos figuran fotografías reales de adolescentes con cuentas públicas en Meta, una imagen de archivo etiquetada como preadolescente y una foto oficial de un miembro de una familia real europea transformada en un vídeo de contenido sexual explícito mediante IA. Los anuncios, que redirigían a aplicaciones de desnudificación de desarrolladores chinos, fueron vistos por más de 29.000 cuentas en la UE, unas 7.000 en Reino Unido, más de 250 en EE. UU., 120 en Australia y 80 en India. Meta afirmó que muchos anuncios ya habían sido retirados, que la mayoría tuvo menos de 200 impresiones y que ingresó menos de 5.000 dólares por ellos. La empresa alegó que los vídeos generados con IA presentaban adultos y que los fragmentos con menores eran breves o difusos, lo que dificulta su detección. Los investigadores notificaron todos los anuncios al National Center for Missing and Exploited Children. El caso se conoce mientras Meta negocia un acuerdo de hasta 16.700 millones de dólares por demandas sobre los daños de sus redes en menores.