HART OS: un sistema operativo local-first con IA federada entre dispositivos

Fuentes: HART OS: a local-first AI-native OS that federates inference across devices

HART OS, desarrollado por Hevolve y disponible en GitHub bajo el repositorio hertz-ai/HARTOS, es un sistema operativo de inteligencia artificial nativo que se ejecuta de forma local en portátiles, servidores, teléfonos y dispositivos embebidos, incluidos robots. Su núcleo, llamado HART, se instala con pip (hart-backend) y expone un endpoint compatible con la API de OpenAI en el puerto 6777, lo que permite integrarlo sin cambios con herramientas como LangChain, LiteLLM, Aider o Continue.

El proyecto se presenta como una alternativa a la concentración de la IA más avanzada en pocos centros de datos. En lugar de fragmentar un modelo entre nodos, HART OS mantiene modelos enteros en cada dispositivo: cuando un equipo no puede resolver una tarea, recluta a un par con un modelo mayor a través de PeerLink, una conexión WebSocket peer-to-peer directa sin intermediarios. La inferencia se ofrece como un servicio del sistema, equivalente al sistema de archivos o la pila de red, de modo que cualquier aplicación puede solicitar una respuesta sin incluir su propio modelo ni claves de API.

Entre sus capacidades destacan un bucle de auto-mejora desactivable por el usuario, guardrails con hash verificado cada 300 segundos y firma Ed25519, 31 adaptadores de canal, soporte multimodal local (llama.cpp, Whisper, seis TTS y un modelo de visión), un sistema de recetas que acelera las repeticiones hasta un 90 % y federación entre pares. El repositorio está en alfa pública y los autores detallan nueve problemas abiertos en OPEN_PROBLEMS.md, además de animar a contribuir en el bucle de auto-evolución y los guardrails.