Jeffy es una herramienta de software de código abierto que permite ejecutar y reentrenar clasificadores de texto preentrenados directamente en procesadores de CPU. Diseñada para desarrolladores que buscan eficiencia y control total sobre sus modelos, la herramienta elimina la dependencia de hardware especializado como GPUs, facilitando la implementación de funciones de inteligencia artificial en entornos con recursos limitados.
El sistema incluye 13 clasificadores preentrenados, como detección de spam en SMS, análisis de intención bancaria y clasificación de noticias, con métricas de precisión y F1 superiores al 90% en la mayoría de las tareas. Estos modelos utilizan regresión logística como mecanismo de clasificación, lo que garantiza una baja latencia de inferencia, con tiempos de respuesta entre 50 y 80 milisegundos en hardware Linux aarch64. La arquitectura se basa en un codificador preentrenado (bge-large-en-v1.5) que se descarga y cachear automáticamente, reduciendo el tamaño del paquete a 1,5 MB.
Jeffy ofrece una interfaz de línea de comandos robusta, compatible con Python 3.12, que permite instalar el paquete mediante uv o pip. Los usuarios pueden clasificar texto en tiempo real, reentrenar modelos personalizados con conjuntos de datos en CSV, TSV o JSONL, y evaluar el rendimiento mediante validación cruzada. El proyecto destaca por su transparencia: los pesos son coeficientes de regresión logística, no copias de datos de entrenamiento, y los conjuntos de datos originales están documentados en el archivo de atribución. Aunque algunas métricas, como la inferencia de SNLI, presentan limitaciones comparativas, la herramienta ofrece una solución viable para tareas de NLP en entornos de producción donde la latencia y el consumo de memoria son críticos.
