Un nuevo proyecto de código abierto llamado Timber está acelerando significativamente la inferencia de modelos de aprendizaje automático clásicos, según anunció su creador, Kossisoroyce, en GitHub. Timber compila modelos basados en árboles (XGBoost, LightGBM, scikit-learn, CatBoost y ONNX) en código C nativo optimizado, sirviéndolos a través de una API HTTP local, eliminando la necesidad de un entorno de ejecución de Python. Esto resulta en una latencia considerablemente menor, con pruebas que muestran una aceleración de hasta 336 veces en comparación con XGBoost en Python.
Timber está diseñado para equipos que requieren inferencia rápida, predecible y portátil, como aquellos en los sectores financiero, sanitario y automotriz, así como para aplicaciones en el borde y dispositivos IoT. La instalación es sencilla mediante pip install timber-compiler, y la ejecución de modelos se realiza con comandos simples. El proyecto ofrece soporte para varios formatos de modelo y se enfoca en proporcionar artefactos deterministas y trazabilidad de auditoría. Los desarrolladores interesados pueden encontrar documentación, ejemplos de código y un documento técnico completo en el repositorio de GitHub.