Cuando un agente de inteligencia artificial aborda una tarea de ingeniería de software, encadena decenas de pasos de razonamiento, edición y pruebas sin que se conozca bien qué representación interna del programa está manejando el modelo de lenguaje subyacente. Un nuevo estudio, depositado en arXiv, demuestra que los flujos residuales de dichos modelos codifican de forma lineal propiedades del programa en evolución: un probe de regresión logística aplicado a los estados ocultos basta para decodificar si el código actual compila, si pasa su batería de tests, si reduce el número de fallos y si introduce regresiones, alcanzando un AUC de hasta 0,83 para la corrección del código en dos modelos y dos benchmarks.
El hallazgo más llamativo va un paso más allá: esas representaciones se adelantan a las propias ediciones del agente. Probes entrenados para anticipar el resultado de ediciones futuras —antes de que se materialicen en disco— superan al azar hasta unas 25 iteraciones por delante. Los autores denominan a este fenómeno el "horizonte de programación latente" del agente. Como prueba de validez externa, los probes transfieren entre benchmarks sin necesidad de reentrenamiento.
El trabajo se enmarca en la interpretabilidad mecanicista de los agentes de codificación y sugiere nuevas líneas de investigación para entender —y eventualmente aprovechar— el conocimiento implícito que estos sistemas acumulan sobre el código antes de escribirlo.