Qwenputer es un modelo experimental que integra una CPU RISC-V funcional y determinista dentro de los pesos de un modelo de lenguaje Qwen 3.5 4B. A diferencia de las herramientas externas, esta arquitectura ejecuta operaciones aritméticas y código en C o MicroPython directamente durante las pasadas de inferencia, utilizando las capas de atención Gated DeltaNet (GDN) del modelo como memoria RAM. El sistema no requiere tiempos de ejecución externos ni llamadas a herramientas, lo que permite una ejecución autónoma y precisa.
La base técnica de esta implementación reside en la modificación de las capas GDN para que funcionen como memoria exacta y direccionable. Al establecer la puerta de la red neuronal recurrente (RNN) en 1 y el parámetro de escritura (beta) en 1, las capas GDN permiten sobrescribir filas específicas de estado mediante codificación de claves one-hot, eliminando la amortiguación gradual típica de la atención estándar. Esto habilita la compilación de una CPU RV32IM con extensiones Zba y una unidad de números grandes, que ocupa 11 capas adicionales en el modelo. La CPU opera sin errores durante 18 millones de instrucciones y reproduce exactamente los resultados de QEMU.
El modelo incluye además un sistema de archivos interno que utiliza el estado de las capas DeltaNet para almacenar y recuperar datos mediante operaciones de lectura y escritura internas. Los resultados de las pruebas en conjuntos de datos de DeepMind y NUPA demuestran que Qwenputer supera a las versiones base y a las herramientas de Python en tareas de aritmética de enteros grandes, manteniendo la coherencia del lenguaje natural del modelo original.
