Un grupo de investigadores en inteligencia artificial ha puesto en marcha FLARE-AI (Flaw Reporting for AI), un sitio web colaborativo para informar y rastrear los perjuicios que causan los sistemas de IA, desde chatbots que generan malware o instrucciones para fabricar bombas hasta fugas de datos personales o respuestas que alimentan delirios en los usuarios. La plataforma, comparada con el servicio Downdetector, es de código abierto y permite verificar los incidentes y redirigir los reportes a los desarrolladores de modelos, así como a organizaciones como MITRE.
El proyecto fue desarrollado por 49 expertos de 32 organizaciones y está codirigido por Avijit Ghosh, investigador de políticas de IA en Hugging Face, junto a las científicas de la computación Elaine Zhu y Shayne Longpre. En un artículo académico sostienen que la iniciativa resulta crucial a medida que los sistemas agentivos ganan más autonomía, y que la ausencia de un canal centralizado de denuncias es un problema serio.
Los impulsores de FLARE-AI colaboraron además en un proyecto de ley presentado en junio en el Congreso de EE UU, impulsado por las representantes Deborah Ross, Jeff Hurd y Don Beyer, que encomendaría al National Institute of Standards and Technology fijar estándares de reporte y mantener una base de datos nacional de fallos de IA. Analistas como Jessica Ji, del Center for Security and Emerging Technology, valoran la propuesta, aunque especialistas como Rumman Chowdhury, de Humane Intelligence, advierten de retos pendientes: el volumen de reportes y la necesidad de que entidades creíbles respalden el sistema.