Una constitución escrita para una flota de agentes de IA: siete meses, cero incidentes

Fuentes: Seven months governing a personal AI agent fleet under a written constitution. Zero incidents.

Un desarrollador solitario relata cómo, hace siete meses, redactó una constitución escrita antes de permitir que sus agentes de inteligencia artificial tocasen sistemas reales. El documento, que no es un prompt ni un mensaje de sistema, define qué puede y qué no puede hacer cada agente, quién audita a quién y qué ocurre cuando el código infringe un artículo. Sobre esa base construyó una flota con un bot en la nube para briefings diarios, agentes de ejecución para despliegues y una capa estratégica de planificación, todo operado por una sola persona sin equipo de seguridad.

Los principios centrales son cuatro: diseño fail-safe por defecto, compuertas humanas en toda acción irreversible, comprobaciones de igual intensidad en cada ruta de ejecución y un registro append-only que nadie puede editar. La constitución se trata como hipótesis evolutiva, no como escritura sagrada: cada casi-incidente se convierte en un caso documentado que modifica los artículos, como el corretaje nocturno bloqueado por una regla antibase, el intento de desplegar un blob opaco rechazado por audibilidad, la violación de silencio detectada por el registro y el protocolo de desarme aplicado al pausar sistemas con claves activas.

El autor defiende un orden metodológico —observar antes de automatizar, derivar reglas de fallos reales, desplegarlas y dejar que la realidad las enmiende— y argumenta que la gobernanza a escala personal no es una versión reducida de la empresarial, sino una forma distinta: más débil en fiabilidad nocturna, más fuerte en rendición de cuentas.