Un hombre de Florida, Robert Dillon, de 52 años y residente en Fort Myers, ha presentado una demanda contra varias agencias de seguridad pública tras ser arrestado y procesado en agosto de 2024 por un cargo de intento de captación de una menor,罪名 que nunca cometió. Su caso fue identificado erróneamente por un sistema de reconocimiento facial con un 93% de probabilidad de coincidencia, a pesar de que Dillon vive a más de 300 millas (unos cinco horas en coche) de Jacksonville Beach, donde supuestamente ocurrió el incidente en un McDonald's, y de que, según él mismo declaró a los detectives, jamás había visitado esa ciudad.
La demanda, presentada este martes por la Unión Americana de Libertades Civiles (ACLU) en el Tribunal de Distrito de Estados Unidos para el Distrito Medio de Florida, señala como demandados a la Ciudad de Jacksonville Beach, al oficial Scott O'Connell —investigador principal del caso—, al sheriff del condado de Duval T.K. Waters, al sheriff del condado de Pinellas Bob Gualtieri, y al sargento James Walters de la Oficina del Sheriff de Jacksonville. Según la ACLU, el caso de Dillon es al menos el decimosexto a nivel nacional en el que una persona es arrestada o acusada tras una identificación facial errónea.
El sistema que generó la coincidencia fue el FACES (Face Analysis Comparison and Examination), una base de datos centralizada de reconocimiento facial mantenida por la Oficina del Sheriff del condado de Pinellas y alquilada a otras fuerzas de seguridad. La demanda alleges que O'Connell omitió deliberadamente varias categorías de evidencia exculpatoria fácilmente verificable del affidavit de arresto. Entre ellas, los lectores de matrículas demostraron que ninguno de los vehículos de Dillon estuvo cerca del restaurante. Además, el oficial no reveló al magistrado que la fotografía utilizada para comparar con la base de datos era una captura de baja definición tomada con el teléfono celular de un agente a la pantalla de la computadora del McDonald's, no una imagen digital subida directamente desde el sistema de grabación.
La demanda también cuestiona que O'Connell no haya cuestionado el testimonio de una empleada del McDonald's que, tras identificar a Dillon en una hilera de seis fotografías, aseguró que el sospechoso era un «cliente habitual» del establecimiento. Según el documento, el investigador sabía que Dillon vivía a cientos de millas, lo cual haría imposible esa afirmación.
«En lugar de contrastar la respuesta de la máquina con la evidencia que lo habría exonerado, los agentes construyeron un caso para confirmarla», denuncia la demanda. Dillon fue arrestado en su casa frente a su esposa y pasó meses enfrentando un proceso penal por un cargo que lleva un estigma social devastador y una destrucción reputacional permanente. Aunque los cargos fueron retirados el año pasado, su fotografía policial sigue accesible en internet y ninguna agencia le ha ofrecido disculpas.
«Más de un año después, todavía estoy recogiendo los pedazos de mi vida, todo porque la policía confió en esta tecnología peligrosa en lugar de hacer su trabajo e investigar de verdad», declaró Dillon. «La policía de Florida debe implementar salvaguardas y asegurarse de que esto nunca le vuelva a pasar a nadie, porque hasta que lo hagan, nadie está seguro».
Nate Freed Wessler, subdirector del proyecto de discurso, privacidad y tecnología de la ACLU, advirtió que «estos departamentos de policía de Florida le deben a Dillon una reparación y deben tomar medidas serias para garantizar que esto no le ocurra a nadie más. La policía de todo el país está advertida: la tecnología de reconocimiento facial no confiable está dañando a personas, y seguiremos luchando para que rindan cuentas por estos abusos».
El caso de Dillon no es aislado. Según informó Action News Jax a principios de junio, Jalil Richardson, de Charlotte, Carolina del Norte, fue extraditado a Jacksonville y pasó casi tres meses en prisión tras ser señalado por reconocimiento facial como sospechoso de un robo de vehículo, a pesar de que sus registros laborales demostraban que estaba trabajando a 400 millas de distancia cuando ocurrió el delito. La investigación publicada por The Guardian el mes pasado concluyó que la supervisión de los sistemas de reconocimiento facial con inteligencia artificial es «lamentablemente inadecuada» en el Reino Unido y en otros países, y que los avances tecnológicos superan con creces la capacidad regulatoria de las autoridades.
The Guardian contactó al Departamento de Policía de Jacksonville Beach para obtener comentarios, pero no había recibido respuesta al cierre de esta edición. La demanda de Dillon se perfila como un nuevo capítulo en el debate nacional sobre los límites éticos y legales del uso de inteligencia artificial por parte de las fuerzas de seguridad, y podría sentar precedentes sobre la responsabilidad de las agencias policiales cuando confían en algoritmos cuya tasa de error, según los expertos, sigue siendo significativa, especialmente cuando se aplican a imágenes de baja calidad como las capturadas por cámaras de seguridad de establecimientos comerciales.