La integración de la inteligencia artificial en la verificación formal ha transformado el sector, impulsando el surgimiento de startups y la adopción masiva de herramientas como Rocq por parte de desarrolladores de IA. Sin embargo, el autor argumenta que la verificación formal no es inherentemente verificable, ya que depende de componentes de confianza que pueden contener errores. A diferencia de las pruebas, que generan informes de errores revisables, la verificación formal se basa en demostraciones que requieren validación externa. El texto destaca que la distinción entre verificar propiedades de un sistema y verificar el sistema en sí es crucial, ya que los errores en los modelos subyacentes pueden invalidar las pruebas. Se propone reducir la superficie de confianza mediante la verificación binaria, que valida el código compilado en lugar del código fuente, simplificando la semántica a la del nivel de máquina. El autor critica la terminología común que confunde la verificación de propiedades con la del sistema completo, advirtiendo que la democratización de estas herramientas por parte de la IA ha aumentado el volumen de software 'verificado' en un factor de mil, lo que exige una mayor precisión en la descripción de los límites de confianza. La conclusión es que la verificación formal debe evolucionar hacia una comprensión más matizada, donde se aclaren explícitamente qué se ha probado, qué se ha probado sobre qué y qué componentes siguen siendo de confianza no verificada.
