Tarit: hipervisor y sandbox cloud para agentes de IA autoalojados

Fuentes: Tarit: a hypervisor and sandbox cloud for self-hosted AI agents and RL

Tarit es una plataforma de microVMs pensada para ejecutar cargas de trabajo de agentes de inteligencia artificial y entornos de aprendizaje por refuerzo con aislamiento a nivel de kernel. Cada sandbox es una máquina virtual hardware-virtualizada con KVM y núcleo propio, en lugar de un contenedor con espacio de nombres compartido, de modo que una carga comprometida no puede ver el host ni a sus vecinas.

El proyecto se distribuye como un monorepo con dos componentes desarrollados en paralelo: vmm/, un monitor de microVM minimalista basado en rust-vmm que ejecuta un proceso por microVM, y orch/, llamado taritd, un orquestador multi-nodo con API HTTP que gestiona colocación, pools templados, red, instantáneas, acceso SSH/PTY, métricas por clave y registro de auditoría. Ambos se comunican mediante un protocolo sobre socket Unix definido en el crate compartido proto/ (tarit-proto), que sirve como contrato de cable.

Entre sus características destacan el arranque sub-segundo desde instantáneas (83 ms en p50 desde snapshot, 2,9 ms para restaurar, 12,3 ms para entregar una VM de pool templado), instantáneas en vivo de guests en ejecución sin pausa, suspensión que libera RAM del invitado y arranque nativo de imágenes OCI. El modelo de dispositivos se reduce a virtio por MMIO, sin PCI ni BIOS, con RAM bajo demanda y overlays copy-on-write para clonar sandboxes.

La puesta en marcha requiere un host Linux x86_64 con KVM y toolchain de Rust, con un quickstart en tres capas (VMM aislado, instantáneas, flota gestionada) y compatibilidad de autoalojamiento probada en AWS y GCP. Aún no soporta guests aarch64 ni virtio-balloon.