Flock Safety ha incorporado a su suite de software policial una herramienta de búsqueda mediante IA que permite a los agentes localizar personas en las cámaras a partir de descripciones escritas, no solo por matrículas. WIRED obtuvo y analizó el código de la aplicación y reconstruyó lo que ven los agentes al usarla. La función, llamada FreeForm, funciona en lenguaje natural: un oficial delimita una zona de la ciudad y las cámaras ejecutan una búsqueda automatizada y continua de cualquier persona que coincida con la descripción introducida.
En el último año, Flock ha sufrido una reacción negativa creciente: departamentos de policía de todo el país han cancelado contratos y varios ayuntamientos han retirado las cámaras. Dos miembros del Congreso escribieron al consejero delegado, Garrett Langley, tras el caso de un adjunto del sheriff de Texas que consultó más de 83.000 cámaras para buscar a una mujer que había abortado. Illinois detectó que la empresa había permitido a agentes federales de inmigración acceder a datos estatales, en contra de la ley estatal.
Flock respondió en agosto con cambios que acortan la retención de datos, exigen códigos de caso en cada búsqueda y añaden auditorías automatizadas. Sin embargo, el análisis de WIRED indica que esos mecanismos pueden detectar y registrar usos indebidos, pero no impedirlos. Expertos consultados advierten de que el sistema toma decisiones que solo son visibles dentro de la propia empresa y que nadie externo puede medir su tasa de error.