Una investigación de WIRED, Liberty Investigates, Bristol Cable y Lighthouse Reports revela que la policía de Avon y Somerset, en el suroeste de Inglaterra, desarrolló al menos 23 modelos de análisis predictivo desde 2016, incluido el llamado Think Family Database, que almacena datos sensibles —informes policiales, salud mental, embarazos adolescentes, ayudas escolares— de casi medio millón de personas en Bristol. Sobre esos registros se construyeron algoritmos que asignaban puntuaciones de riesgo a adultos y menores para anticipar delitos, violencia doméstica o absentismo judicial, así como una 'liga' de hasta 300.000 personas potencialmente peligrosas.
Documentos obtenidos por solicitudes de acceso a información pública muestran que al menos dos modelos fueron abandonados en silencio porque el propio personal municipal consideró que sus resultados no eran fiables. Inspectores gubernamentales y revisores independientes advirtieron de la falta de transparencia y del riesgo de erosionar la confianza ciudadana. Más de 36.000 métricas de rendimiento analizadas por un experto independiente arrojan, en algunos casos, un rendimiento 'verdaderamente pobre'.
Los residentes no fueron consultados inicialmente y solo más tarde pudieron darse de baja. Casos como el del activista John Pegram, que descubrió años después estar incluido en la aplicación, ilustran la opacidad del programa. El exjefe de policía Andy Marsh, ahora al frente del College of Policing, impulsa ahora la adopción de unas 100 herramientas de IA en las fuerzas británicas, con la promesa de evaluarlas antes de extenderlas.