El matemático Terence Tao advirtió en una conferencia en Filadelfia que la comunidad está "muy, muy cerca" de que un resultado matemático importante sea demostrado y verificado sin que ningún humano pueda comprenderlo y explicarlo. La afirmación, recogida por el periodista Kai Williams en entrevistas con varios matemáticos, ha abierto un debate sobre los límites de la IA en esta disciplina. Jacob Tsimerman, reciente ganador de la Medalla Fields y recién fichado por OpenAI, aseguró que la IA será "robustamente sobrehumana" en matemáticas; la también medallista Yu Deng apuntó que las máquinas se ocuparán de los detalles técnicos mientras los humanos seguirán generando las ideas y teorías. De momento, los matemáticos usan la IA como copiloto: consultar bibliografía, buscar ejemplos difíciles o revisar borradores. Lenguajes como Lean permiten validar demostraciones extensas, pero no explican por qué funcionan. OpenAI reconoció que, de diez problemas matemáticos en los que sus modelos dijeron haber avanzado, al menos una de las pruebas resultó errónea. Matemáticos como Timothy Gowers advierten del riesgo de producir una literatura matemática inmensa que nadie entienda, y otros, como Daniel Litt, defienden crear bibliotecas de demostraciones acompañadas de guías explicativas. La Declaración Leiden propone preservar valores como la autonomía intelectual, la transparencia o la diversidad de métodos frente a la delegación en la IA.
