Bash4LLM⁺: un wrapper en Bash para usar la API de Groq desde la terminal

Fuentes: Bash4LLM⁺: wrapper CLI in Bash per l'API Groq compatibile OpenAI

Bash4LLM⁺ es un script en Bash, autónomo y completamente auditable, que actúa como interfaz de línea de comandos para la API Chat Completions de Groq, compatible con el formato OpenAI. Su objetivo es permitir a desarrolladores y usuarios técnicos interactuar con modelos de lenguaje de gran tamaño directamente desde la terminal, sin depender de clientes gráficos ni de entornos pesados.

El proyecto se distribuye como un único fichero ejecutable, lo que facilita su inspección y verificación. Es compatible con sistemas tipo Unix: Linux, macOS, WSL, Cygwin, Termux en Android y BSD. Entre sus características destaca la obtención dinámica de la lista de modelos desde el endpoint de Groq, evitando modelos hardcoded, y un diseño orientado a la seguridad: no utiliza el directorio /tmp, no emplea eval, aplica permisos restrictivos (umask 077, archivos a 600) y valida los proveedores antes de ejecutar código asociado.

La arquitectura interna se organiza en secciones modulares (PRECORE_BOOT, PRECORE_RUN, PROVIDER, CORE_SETUP, CORE_PROVIDER) y expone un sistema de estado en formato JSON para su integración con interfaces gráficas o herramientas externas, como Home Assistant. Soporta tanto respuestas en streaming como completas, gestión avanzada de modelos (refresh, lista, modelo por defecto persistente, whitelist dinámica y autoselección), sesiones con ventana de contexto, plantillas, modo batch y un modo chat interactivo tipo REPL. Incluye además la opción de instalar extras opcionales con soporte para otros proveedores como Gemini, Hugging Face o Mistral.

Para usuarios de Termux en Android, la herramienta detecta automáticamente el entorno y sustituye flock —suele fallar por restricciones de SELinux— por bloqueos atómicos basados en mkdir. En definitiva, Bash4LLM⁺ ofrece una solución ligera, portable y centrada en la seguridad para integrar LLMs en flujos de trabajo basados en shell.