Modelos de lenguaje muestran capacidad incipiente de introspección sobre sus estados internos

Un estudio publicado en arXiv investiga si los grandes modelos de lenguaje (LLM) pueden introspeccionar sobre sus propios estados internos, una cuestión difícil de evaluar mediante conversación, ya que la introspección genuina resulta indistinguible de las confabulaciones. Para resolverlo, los investigadores inyectan representaciones de conceptos conocidos en las activaciones del modelo y miden el efecto de esa manipulación en los estados autorreportados. Los experimentos muestran que los modelos pueden, en ciertos escenarios, detectar la presencia de conceptos inyectados e identificarlos con precisión, y demuestran cierta capacidad para recordar representaciones internas previas y distinguirlas de texto en bruto. El hallazgo más llamativo es que algunos modelos usan esa memoria de intenciones previas para diferenciar sus propios outputs de prefillings artificiales. Claude Opus 4 y 4.1, los modelos más capaces probados, muestran en general mayor consciencia introspectiva, aunque los patrones son complejos y sensibles a las estrategias de post-entrenamiento. El trabajo también explora el control explícito de las representaciones internas: los modelos pueden modular sus activaciones cuando reciben instrucciones o incentivos para 'pensar' en un concepto. En conjunto, los resultados indican que los LLM actuales poseen cierta introspección funcional, altamente poco fiable y dependiente del contexto, que podría seguir desarrollándose con mejoras en sus capacidades.