A medida que los agentes de inteligencia artificial asumen tareas como revisar código, resumir documentos o analizar contratos, el valor del resultado depende cada vez más de poder demostrar su autenticidad. Hoy no existe un estándar que permita certificar que una salida concreta fue producida por un agente, un modelo, una versión y una configuración determinados a partir de un input específico.
La solución más inmediata es la atestación de confianza: un proveedor de inferencia o un auditor independiente ejecuta el agente, firma criptográficamente la salida e incluye en el certificado el identificador del agente, el modelo, la versión, el hash del input y del output, la marca temporal y la firma. Quien disponga del input y el output originales puede verificar las firmas; si coinciden, el resultado es auténtico. Este esquema no demuestra que el modelo haya ejecutado correctamente, pero sí que la autoridad de confianza avala esa salida para ese input, de forma análoga a la firma de código de un editor o a los certificados de la web.
El objetivo más ambicioso consiste en eliminar la autoridad de confianza. La propia inferencia generaría una prueba criptográfica de que el output es exactamente el resultado de evaluar el modelo indicado sobre el input indicado, de modo que cualquier persona podría verificarla sin depender del servicio. Se trata de un área de investigación activa con avances en pruebas de conocimiento cero y zkVMs, aunque generar pruebas para modelos de frontera sigue siendo costoso.
La inferencia verificable no aumenta la precisión ni la confianza en los modelos; preserva su procedencia. Permite adjuntar una prueba de origen a una revisión de código, citar análisis generados por IA con garantías o tratar los contenidos producidos por IA como artefactos verificables, comparables a las releases de software firmadas o los documentos con firma digital.