Investigadores advierten que el uso de inteligencia artificial en la policía puede exacerbar la discriminación contra minorías, al basarse en datos sesgados que generan bucles de retroalimentación peligrosos. Adrian Dredge, ganador del Premio de Escritura Científica Joven 2026, argumenta que los sistemas de IA entrenados con datos históricos contienen prejuicios humanos que se replican y amplían. Por ejemplo, si la IA predice zonas de alta criminalidad basándose en registros pasados, la policía patrulla esas áreas, lo que incrementa la detección de crímenes y crea la ilusión de que la violencia es mayor allí, mientras que otras zonas parecen más seguras por falta de vigilancia. Sarah Brayne, socióloga de la Universidad de Texas en Austin, confirmó que los datos de Los Ángeles muestran un enfoque desproporcionado en barrios negros, lo que los modelos de IA interpretan como patrones de criminalidad real. Aunque Dr. Dimitrios Kollias, de la Universidad de Queen Mary, señala que la IA moderna puede superar estos sesgos mediante la generación de soluciones nuevas, advierte sobre el riesgo de que los sistemas actúen con mayor autonomía sin supervisión humana. Por su parte, investigadores de la Universidad de Nueva York señalan que el 'datos sucios', como registros corruptos o arrestos injustos, contaminan los modelos. La solución propuesta por expertos como Dr. Carolyn McKay, de la Universidad de Sídney, es una supervisión humana independiente que audite los datos antes de su uso, aunque reconocen que limpiar la historia es complejo. La IA no tiene creencias propias, pero su dependencia de datos defectuosos puede causar daños significativos a las personas, como se evidenció en un estudio de 2019 sobre sistemas de salud que favorecían a pacientes blancos por error de interpretación de costos.
Noticias agregadas con IA