Modal Labs ha reconstruido desde cero su plataforma de sandboxes para soportar, según la compañía, millones de entornos simultáneos y tasas de creación de decenas de miles por segundo. Como demostración, la empresa afirma haber ejecutado un millón de sandboxes concurrentes, creados todos en menos de un minuto. La compañía, que ya gestiona millones de sandboxes al día y hasta cincuenta mil concurrentes por cliente, señala que la demanda creciente —desde aprendizaje por refuerzo hasta agentes en segundo plano— exige ráfagas de cientos de miles de contenedores al inicio de los entrenamientos.
El nuevo sistema elimina los cuellos de botella del plano de control: nada en la ruta crítica de creación depende de almacenes de datos centralizados ni de coordinaciones globales. Una flota de servidores de scheduling procesa peticiones en paralelo con datos en memoria; cada nodo worker publica su estado a un stream de Redis y es su propia fuente de verdad. El resultado, según Modal, son solo dos saltos de red y una operación CPU barata por sandbox. La empresa argumenta que, a diferencia de Kubernetes —cuyo scheduling es O(n×p) y depende de escrituras constantes en etcd—, su arquitectura es escalable horizontalmente por defecto y, por diseño, no tiene techo práctico de capacidad.