Dieciséis especialistas en matemáticas publicaron este martes la Declaración de Leiden sobre Inteligencia Artificial y Matemáticas, un manifiesto de once páginas que advierte de que la automatización sin control amenaza tanto la práctica como los valores de la disciplina. El documento, avalado por la Unión Matemática Internacional, se debatirá el mes que viene en el Congreso Internacional de Matemáticos de Filadelfia.
La declaración llega tras una serie de avances rápidos de la IA en el campo. El mes pasado, OpenAI informó de que uno de sus nuevos modelos de razonamiento resolvió por sí solo un famoso problema matemático planteado hace ochenta años. Durante años, los matemáticos han servido como banco de pruebas para los modelos de IA, ya que los problemas matemáticos se prestan a la evaluación automática y ofrecen un conjunto de entrenamiento prácticamente ilimitado.
Los autores sostienen, no obstante, que las matemáticas son más que una máquina de producir respuestas correctas: son una actividad profundamente humana basada en la creatividad, la comprensión, la colaboración y la búsqueda del conocimiento. «La industria tecnológica avanza por lógica comercial, antitética a los valores de las matemáticas», declaró Michael Harris, de la Universidad de Columbia y coautor de la declaración, a The New York Times.
Entre los riesgos concretos que señala el texto figuran la saturación de los sistemas de revisión por pares con trabajos de baja calidad generados por IA, la dificultad para atribuir descubrimientos y la desventaja para los investigadores que opten por no usar estas herramientas. Los autores también expresan su preocupación ética por el uso de trabajos matemáticos para entrenar sistemas con fines militares y de vigilancia. La declaración está abierta a la firma de personas y organizaciones de todo el mundo.