CarWatch: un agente local con IA de 35B en el coche, sin nube ni suscripciones

Fuentes: CarWatch: a Raspberry Pi 5 + dashcam car agent running a 35B model locally

CarWatch es un proyecto de código abierto que convierte un Raspberry Pi 5 instalado en el coche en un agente conversacional completamente offline, capaz de participar en salas de chat, responder preguntas y avisar de incidentes. La placa ejecuta en local un modelo de 35.000 millones de parámetros (Qwen3.6-35B-A3B, cuantización dinámica de Unsloth) a unos 3,5 tokens por segundo de generación, sin conexión a internet ni suscripciones. El hardware necesario ronda los 300 €, incluye 16 GB de RAM y refrigeración activa para evitar el throttling del SoC.

El sistema combina varias funciones: un agente (@gle) que publica en salas de GroupMind avisos de salidas, llegadas y resúmenes de trayectos; un sistema RAG que responde preguntas sobre el manual del propio coche con citas de página y rehúsa contestar lo que el manual no cubre; lectura en tiempo real de temperatura, throttling, ventilador, memoria, red y modelo cargado; escucha por voz continua mediante VAD por energía y whisper.cpp; y un panel web servido por el propio coche para el móvil o reloj.

La conectividad se resuelve en tres niveles —hotspot del teléfono, wifi del domicilio y un punto de acceso propio del Pi— y un túnel saliente permite acceder al coche aunque esté detrás de un NAT. El proyecto se autodespliega y se autoactualiza cada hora desde su repositorio. La lectura del motor por OBD (DoIP/ENET) está implementada y probada contra una pasarela simulada, pendiente de verificación en un coche real. La integración con la dashcam WOLFBOX G900 está parcialmente desarrollada. El repositorio, publicado bajo licencia AGPL-3.0, incluye instrucciones de instalación y un script de actualización.