Los LLM no razonan como AlphaGo: falta de estado epistémico explícito

Un artículo de The Technology Review argumenta que los modelos de lenguaje de gran escala (LLM) actuales carecen de capacidades de razonamiento genuino, a diferencia de AlphaGo. El texto analiza el movimiento 37 de la partida de AlphaGo contra Lee Sedol en 2016, señalando que no fue una intuición mística, sino el resultado de una búsqueda deliberativa que evaluó consecuencias futuras. A diferencia de AlphaGo, que mantenía un árbol de juego explícito, los LLM generan tokens secuencialmente sin un estado epistémico persistente, inspeccionable o separado de sus pesos neuronales. Esta falta de transparencia impide identificar errores en aplicaciones críticas como la medicina o la ingeniería, donde es vital saber cómo se llegó a una conclusión. El autor propone que el futuro del razonamiento artificial debe inspirarse en la arquitectura de AlphaGo: mantener un registro de lo que se sabe, lo que se duda y lo que se ha descartado, actualizando creencias solo cuando están respaldadas por evidencia. Aunque los LLM pueden interactuar con herramientas y APIs, la falta de una evaluación independiente de cada paso limita su fiabilidad en contextos de alta stakes.