LeMario es un proyecto personal que reproduce la arquitectura Joint-Embedding Predictive Architecture (JEPA) propuesta por Yann LeCun, aplicada al videojuego Super Mario Bros. El autor reescribió el modelo desde cero: un codificador de visión que comprime cada fotograma en un vector latente de 192 valores, un codificador de acciones que representa las pulsaciones de botones y un predictor causal de seis bloques transformer que, mediante Adaptive LayerNorm Zero, inyecta la acción en cada capa como desplazamiento, escala y puerta. El entrenamiento se realizó con 737.134 fotogramas de 280 episodios en 32 niveles y, para evitar el colapso representacional, se incorporó la regularización SIGReg.
El modelo superó a las líneas base en predicción a uno y cinco pasos y pareció aprender dinámica condicionada a las acciones. Sin embargo, al usarlo con planificación libre de recompensa mediante el método Cross-Entropy para alcanzar imágenes objetivo, Mario apenas avanzaba. El autor construyó una sonda que recuperaba la posición horizontal casi perfecta (R²=0,997) pero solo débilmente la vertical (R²=0,188). Al puntuar las trayectorias imaginadas con esa sonda, Mario pasó de x=40 a x=71 con objetivo en x=72 y alcanzó x=176 frente a un objetivo en x=177. El artículo describe tanto los aciertos como los errores y demuestra que predecir el juego no equivale a aprender a progresar en él.
