Flide: motor de inferencia de decisiones con forking exacto

Fuentes: Flide: exact state forking inference engine for decision models

Flide es una infraestructura de inferencia diseñada específicamente para modelos de decisión del estilo Jev, optimizada para garantizar respuestas exactas mediante el forking de estado. A diferencia de los motores tradicionales como vLLM o SGLang, Flide ejecuta una sola secuencia por pregunta, evitando la duplicación de cómputo y garantizando que cada respuesta corresponda a la consulta individual. Esta arquitectura permite alcanzar velocidades hasta 9,4 veces superiores a las de vLLM y SGLang en hardware H200, manteniendo una precisión dentro de 1,1 puntos de la referencia float32.

El proyecto, lanzado en PyPI como 0.1.0, soporta modelos de chat como Qwen3.5 y Gemma 4, así como familias específicas de modelos de decisión como AutoTrust, Clef, Drex y KnowLine. La documentación detalla cómo Flide gestiona el batching de peticiones para mantener la consistencia de bits y cómo integra adaptadores LoRA. Con un enfoque en la eficiencia computacional y la fidelidad de la salida, Flide se posiciona como una herramienta técnica para desarrolladores que requieren precisión absoluta en sistemas de decisión autónoma, ofreciendo una API /v1/systemone que soporta múltiples opciones por pregunta.