LittleLearner es un proyecto de investigación que ofrece modelos de lenguaje entrenados desde cero sobre un corpus de 88.000 millones de tokens filtrado para alinearse con el currículo de educación primaria estadounidense (K–5, de kindergarten a 5.º grado). El corpus, llamado LittleCurriculum, se obtiene de FineWeb-Edu mediante un pipeline de filtrado en cinco etapas basado en estándares Common Core, y excluye explícitamente conceptos, hechos y vocabulario por encima de 5.º grado.
El proyecto publica modelos en tres escalas (0.600, 1.300 y 5.000 millones de parámetros), cada uno acompañado de un control no filtrado con idéntica arquitectura, número de tokens y receta de entrenamiento, lo que permite aislar el efecto del filtrado curricular. También ofrece variantes ajustadas por post-training (GRPO sobre el dataset MathCAMPS y versiones 'chatty' orientadas a conversación).
El objetivo es disponer de un banco de pruebas para estudiar la adquisición de conocimiento frente a la simple elicitación: los experimentos muestran que el escalado, el post-training y el aprendizaje en contexto amplifican lo que el currículo enseña, pero no mejoran de forma significativa el rendimiento fuera del alcance (más allá de K–5). Esto indica que el filtro de preentrenamiento marca el techo efectivo de capacidad del modelo.
Gracias a que la exposición de entrenamiento está especificada de forma precisa, los investigadores pueden relacionar cambios de comportamiento o representaciones internas con conceptos concretos introducidos experimentalmente. El proyecto propone tres líneas de uso: evaluar si el aprendizaje por refuerzo puede crear capacidades nuevas más allá del currículo; observar cómo se aprende un concepto concreto (como los números negativos); y comparar sistemáticamente el aprendizaje de máquinas y niños. El trabajo se documenta en el paper 'LittleLearner: Language Models Under Pedagogically-Controlled Knowledge Exposure' (arXiv:2608.13545, 2026), firmado por Fanfei Li, Jana Zeller, Manuel Prada-Corral, Thaddäus Wiedemer, Prasanna Mayilvahanan, Ryan Cotterell y Wieland Brendel.