PSSA es un modelo de lenguaje de pequeño tamaño desarrollado en Rust desde cero, sin utilizar frameworks de aprendizaje automático como PyTorch o TensorFlow. A diferencia de los transformers, que procesan el contexto completo en cada paso, PSSA opera mediante una capa de espacio de estados recurrente que lee el texto token por token. Este enfoque permite que el modelo reescriba parte de sus propios pesos durante la ejecución y mantenga un banco de memorias episódicas para consultas rápidas, eliminando la necesidad de releer el contexto.
En pruebas comparativas con 1,5 millones de parámetros y el mismo corpus (WikiText-103), PSSA alcanzó una entropía cruzada de entrenamiento de 3,98, frente a 4,43 del transformer, logrando una perplexidad 53,7 frente a 83,7. El modelo generó texto 12 veces más rápido que el transformer en la misma CPU, completando 200 tokens en 226 milisegundos frente a 2.735 milisegundos. La arquitectura se basa en matrices de estado continuas de tamaño fijo, una memoria episódica de 512 slots con recuperación hiperbólica y actualizaciones de pesos plásticas con un mecanismo de refracción para limitar sobreescrituras contradictorias. Aunque la calidad del texto generado es limitada en esta escala, los resultados demuestran una mayor eficiencia en el aprendizaje y una mejor generalización que los arquitecturas basadas en atención, destacando la viabilidad de modelos recurrentes optimizados en Rust para tareas de inferencia en hardware limitado.
