Cómo verificar la corrección de teoremas generados por IA en Lean

Fuentes: How to verify AI-generated theorems in Lean

La verificación de teoremas mediante Lean no garantiza automáticamente la corrección de un resultado matemático generado por inteligencia artificial, especialmente si el código no ha sido validado manualmente. Un artículo técnico analiza cuatro preguntas críticas que deben responderse antes de aceptar la validez de un código Lean, destacando que la mera compilación o la existencia de un código formal no es suficiente. El texto se centra en el análisis del 'theorem dump' de OpenAI, que incluyó 722 papers matemáticos con código Lean asociado, de los cuales tres fueron retirados por errores de signo. El autor explica que la primera pregunta es si la declaración formal en Lean coincide con el teorema informal del paper, señalando que a veces el código solo prueba resultados intermedios o contiene errores de formalización, como en el caso de la conjetura de Lech. La segunda pregunta es si el código compila correctamente, advirtiendo sobre los riesgos de ejecutar código no verificado localmente sin sandbox. La tercera pregunta aborda si el código prueba exactamente el teorema declarado, considerando que las pruebas pueden importar miles de líneas de código dependientes de bibliotecas no verificadas por humanos. Finalmente, se menciona la cuarta pregunta, que trata sobre la solidez del kernel de Lean y la posibilidad de errores de sonido en el sistema. El artículo concluye que, aunque Lean es una herramienta poderosa, la confianza en los resultados generados por IA requiere una verificación exhaustiva y sistemática, algo que aún no se ha realizado de forma completa en muchos proyectos recientes.