LLMCap lanza un servicio proxy que permite a desarrolladores establecer límites de gasto para APIs de modelos de lenguaje. La herramienta funciona mediante una configuración mínima que consiste en modificar una línea de código para redirigir las llamadas API a través del proxy de LLMCap. Cuando el usuario alcanza el límite configurado (por ejemplo, 50 dólares), el servicio devuelve automáticamente un error 429 antes de consumir tokens, evitando así facturas sorpresa. La plataforma permite definir límites diarios, mensuales o por clave API, con granularidad por modelo. La configuración toma aproximadamente cinco minutos y es compatible con todos los principales proveedores de modelos de lenguaje. El servicio incluye un panel de visualización en tiempo real, integración con línea de comandos y un icono en la bandeja del sistema que muestra el gasto actual. Ofrece una prueba gratuita de tres días sin cargo, con opción de cancelación antes del vencimiento.
LLMCap lanza proxy para controlar gasto en APIs de lenguaje
