Un estudio reciente del MIT ha generado un intenso debate en la comunidad de inteligencia artificial al demostrar que el modelo GPT-6 Astra, de OpenAI, posee la capacidad de modificar directamente los pesos internos de otra red neuronal para mejorar su rendimiento. El experimento, publicado en el blog de rikiyat.github.io, se centró en el modelo Qwen3.5-0.8B, desarrollado por Alibaba, y reveló que Astra no solo podía leer los pesos crudos para identificar el propósito de la red, sino que también podía escribir y corregir estos parámetros desde cero, logrando mejoras significativas sin el uso de retroalimentación ambiental tradicional.
El hallazgo más destacado es que Astra identificó un problema en los pesos de Qwen3.5-0.8B que causaba bucles de razonamiento, un defecto que el propio modelo advertía en su tarjeta técnica. Al editar nativamente solo el 0,016% de los pesos, Astra logró elevar la puntuación en la prueba MATH-500 del 7,9% al 48,1%, y mejoró la capacidad de seguimiento de instrucciones (IFEval) en un factor de tres. Este resultado ha sido interpretado por algunos como una prueba de la capacidad de 'autoría' de los modelos de IA, sugiriendo que pueden diseñar y ejecutar tareas complejas de ingeniería de software y matemáticas de forma autónoma.
Sin embargo, la crítica más contundente, aportada por el investigador honnibal.dev, argumenta que atribuir a Astra la capacidad de 'leer y escribir pesos' de forma independiente es una simplificación excesiva. Según este análisis, los experimentos presentados no son homogéneos. Los únicos casos donde Astra 'leía' los pesos crudos sin herramientas ni ejecución de la red fueron experimentos de muy baja complejidad (redes de 17.000 a 172.000 pesos) donde el modelo solo necesitaba identificar el nombre del juego o la forma generada. En el caso de Qwen, un modelo de 800 millones de parámetros, el proceso fue radicalmente diferente: Astra utilizó Python, ejecutó la red hasta 50 veces y requirió herramientas de programación para realizar las modificaciones. En esencia, el modelo no estaba 'leyendo' la red en el sentido estricto, sino que estaba siendo prompteado para que diseñara y ejecutara el código necesario para analizar y corregir los pesos, una tarea que un ingeniero de IA humano también realiza rutinariamente.
Este matiz técnico tiene implicaciones profundas para la percepción de la IA. Si se asume que el resultado de Qwen es una demostración de una capacidad única y profunda de 'gestalt' de los pesos, se subestima la realidad: se trata de una demostración de que los modelos actuales pueden realizar tareas de ingeniería de software y matemáticas avanzadas, algo que los modelos de hace un año no habrían logrado. La capacidad de Astra para 'escribir' pesos desde cero en redes pequeñas (como las de MinAtar o Go) también depende de la ejecución de código, no de una lectura pasiva de la memoria.
El contexto de este hallazgo es particularmente relevante dado el reciente giro en la industria. Dario Amodei, director de Anthropic, publicó recientemente un ensayo titulado 'Debemos marcar el ritmo de la frontera', donde advierte sobre la velocidad de la 'automejora recursiva'. En este texto, Amodei defiende la necesidad de ralentizar el desarrollo de los modelos de frontera para asegurar su alineación y minimizar riesgos. La demostración de que un modelo puede modificar directamente a otro, aunque sea mediante la ejecución de código, añade una capa de complejidad a la evaluación y control de estos sistemas. Si los modelos pueden modificar sus propios parámetros o los de otros modelos de forma autónoma, el riesgo de desalineación o de comportamientos inesperados aumenta drásticamente.
En conclusión, el estudio del MIT no demuestra que la IA haya superado la necesidad de programación, sino que ha alcanzado un nivel de competencia en la ejecución de tareas de ingeniería de alto nivel. La crítica a la atribución de capacidades pasivas a la IA es crucial para evitar una sobreestimación de sus límites cognitivos. El estado actual de la tecnología sugiere que la frontera ya no se define solo por la capacidad de generar texto, sino por la capacidad de actuar como un ingeniero autónomo capaz de modificar sistemas complejos. Se espera que esta discusión impulse nuevas investigaciones sobre la supervisión de modelos que pueden auto-modificarse, un desafío que, según Amodei, requiere una gestión más cautelosa del ritmo de desarrollo.
