Wire, plataforma de contenedores de contexto para agentes de inteligencia artificial accesibles a través de MCP, ha sustituido el núcleo de su infraestructura, construido sobre Cloudflare Durable Objects desde su lanzamiento, por un plano de datos propio que ahora ejecuta las primeras cuentas en producción. El cambio responde a cuatro limitaciones estructurales, no de fiabilidad.
En primer lugar, el índice vectorial residía en Vectorize, un servicio externo a los Durable Objects, lo que añadía un salto de red en la ruta crítica y una segunda copia de estado susceptible de divergir, ya que DO SQLite no admite extensiones. En segundo lugar, los Durable Objects solo podían ejecutar in situ una parte mínima del pipeline de recuperación (generación híbrida de candidatos, fusión, expansión de consulta y un rerank amplio), mientras que el resto se delegaba a servicios adyacentes. En tercer lugar, la ubicación del objeto se fija en el momento de creación y no cambia después, lo que perjudica a flotas distribuidas geográficamente, y no es posible reservar capacidad dedicada por cliente. Y, por último, un Durable Object no se puede instalar on premise, una exigencia habitual de equipos regulados.
El nuevo diseño asigna a cada organización un proceso host (Bun) en Fly Machines; cada contenedor es un único archivo SQLite con el índice vectorial integrado mediante sqlite-vec, de forma que la recuperación de candidatos corre en proceso. Las llamadas a modelos y el rerank siguen saliendo a inferencia externa. Las instantáneas van a object storage, lo que permite reconstruir el contenedor idéntico en cualquier máquina, y un router por región coloca cada contenedor cerca del cliente. El control conversa con el plano de datos mediante peticiones firmadas y nunca accede al contenido.
En las pruebas, las llamadas activas en caliente pasan de unos 0,4 segundos, con picos por encima de 2, a unos 0,3 segundos estables, y el despertar en frío baja de 3,7 a 1,4 segundos. La métrica recall@5 sube del 78,1 % al 89,1 %, en parte gracias a un modelo de embeddings más moderno. Para preservar durabilidad y consistencia de un solo escritor, se reemplaza la replicación automática de DO por envío continuo del WAL a object storage con confirmación tras cada frame y commit por lotes en torno a 100 ms.
El nuevo runtime está en beta, con migración completa prevista cuando se estabilicen las pruebas de durabilidad, y el equipo anuncia que publicará el código del contenedor como open source una vez завершена la transición.