jevper: wrapper para clasificación de LLMs con probabilidades

Fuentes: jevper: TypeSafe System One wrapper for LLM classification

jevper es una librería de Python que implementa el formato de cableado System One de TypeSafe AI, permitiendo a los desarrolladores utilizar modelos de lenguaje compatibles con OpenAI para tareas de clasificación estructurada. A diferencia de las APIs propietarias, jevper actúa como un wrapper independiente que funciona sobre cualquier servidor LLM, incluyendo modelos autoalojados como llama.cpp, sin depender de la SDK de TypeSafe ni de la API de OpenAI en tiempo de ejecución.

El sistema transforma las respuestas del modelo en objetos tipados con probabilidades y niveles de confianza, eliminando la necesidad de procesar texto libre. Soporta tres tipos de preguntas: Noul (sí/no), Choice (selección de etiquetas) y Score (escalas ordenadas). La librería gestiona automáticamente la concurrencia de llamadas y ofrece cuatro métodos para extraer la respuesta: auto, logprobs, grammar y structured. El método auto es el predeterminado porque es compatible con todos los proveedores, ya que los modelos de razonamiento de OpenAI no soportan logprobs y otros proveedores como Anthropic o Gemini no lo ofrecen.

La instalación requiere Python 3.10+ y pydantic>=2.7. El proyecto incluye ejemplos de few-shot para mejorar la precisión y permite configurar el razonamiento del modelo mediante ReasoningConfig. jevper es una implementación independiente del formato System One y no está afiliada a TypeSafe AI, ofreciendo una alternativa técnica para integrar clasificación probabilística en flujos de trabajo existentes.