NPC-Forge: un asistente de terminal sin embeddings, machine learning ni LLMs

Fuentes: NPC-Forge: building a terminal assistant without embeddings, ML, or LLMs

El desarrollador italiano Gio Blu, conocido por el protocolo de red PJON, presenta NPC-Forge, un asistente para terminal construido desde cero con una restricción deliberada: no utiliza embeddings, ni machine learning ni modelos de lenguaje grandes. El proyecto nació como respuesta al gasto mensual que el autor afrontaba al pedir a Copilot tareas triviales como activar entornos virtuales, y tras experimentar infructuosamente con el entrenamiento desde cero de modelos generativos (transformers, NanoGPT, Mamba y arquitecturas noveles) en un equipo modesto con 16 GB de RAM, una GTX 1050 Ti de 4 GB y un i7-4790K.

La herramienta se apoya en NDF 0.0 (NPC-Forge Dataset Format), un formato de dataset que agrupa en un mismo objeto la categoría, las frases de entrada, la respuesta textual, las trazas de razonamiento, el control de permisos y las llamadas a herramientas compatibles con VS Code. Para interpretar solicitudes con variables, como "create file test.txt", el sistema emplea plantillas con etiquetas como <||vocab_create||> o <||file||>, asociadas a vocabulatos de sinónimos y expresiones regulares que permiten extraer entidades como nombres de archivo. El campo "permission" puede fijarse en "ask" para comandos destructivos o "yolo" para operaciones seguras, lo que el autor presenta como un mecanismo de seguridad inherente. El artículo forma parte de la documentación de desarrollo del repositorio NPC-Forge en GitHub.