Voxlocal es una herramienta de línea de comandos escrita en Rust diseñada para macOS que funciona como un agente de voz minimalista y de baja latencia. Su objetivo principal es permitir a los usuarios interactuar con el sistema mediante conversaciones en voz en inglés, centrado en casos de uso específicos como servicios automotrices. A diferencia de las soluciones comerciales complejas, Voxlocal se construye sobre componentes básicos y modelos de microescala para mantener la transparencia del proceso y facilitar la inspección del código fuente.
El sistema opera mediante un pipeline de procesamiento que comienza con la captura de audio por el micrófono y lo convierte en muestras mono a 16.000 Hz. Posteriormente, utiliza el modelo Whisper para la transcripción de voz a texto, empleando decodificación greedy para seleccionar la secuencia de palabras más probable. Una vez obtenido el texto, el sistema aplica reglas de normalización para eliminar muletillas y acentos, mejorando la coherencia del input. Para determinar la intención del usuario, Voxlocal emplea el modelo de embeddings MiniLM, que convierte el texto en vectores numéricos para comparar similitudes semánticas. Finalmente, un modelo de lenguaje de gran escala (LLM) predice la acción correcta y el código en Rust la ejecuta, generando una respuesta que el sintetizador de voz (TTS) convierte nuevamente en audio. El proyecto destaca por evitar el streaming asíncrono complejo y la detección de actividad de voz (VAD), priorizando la simplicidad y la latencia baja, aunque el autor indica que estas funcionalidades podrían incorporarse en futuras revisiones.