15 noticias
Un experimento personal explora si es posible obtener vectores de steering —vectores de activación que modifican el comportamiento de un modelo de lenguaje— invirtiendo el Jacobiano, una herramienta de interpretabilidad que proyectaactivaciones internas en el espacio del vocabulario para verbalizarl
Un equipo de investigación propone una hipótesis que reconcilia dos tradiciones de la inteligencia artificial: la simbólica, basada en combinaciones estructuradas de símbolos, y la conexionista, sustentada en vectores continuos. Los sistemas modernos de IA alcanzan rendimientos notables en áreas com
Eric Horvitz y Robert West sostienen en Science que la comprensión de los sistemas de inteligencia artificial se está estrechando a medida que sus capacidades avanzan. Identifican cinco formas de opacidad que ya emergen: operativa (ciclos recursivos de optimización en espacios de alta dimensión), de
Un artículo de posición publicado en arXiv, fechado el 14 de abril de 2025 y revisado por última vez el 9 de junio de 2026 (v4), cuestiona la práctica habitual de denominar «trazas de razonamiento» o «trazas de pensamiento» a los tokens intermedios que generan los modelos de lenguaje antes de ofrece
LittleLearner es un proyecto de investigación que ofrece modelos de lenguaje entrenados desde cero sobre un corpus de 88.000 millones de tokens filtrado para alinearse con el currículo de educación primaria estadounidense (K–5, de kindergarten a 5.º grado). El corpus, llamado LittleCurriculum, se ob
Un nuevo estudio publicado en arXiv examina si los modelos de razonamiento latente (LRMs), una clase de sistemas de inteligencia artificial que razonan internamente sin generar texto intermedio, son realmente interpretables. La investigación, firmada por Connor Dilgren y colaboradores, analiza dos L
Un estudio publicado en arXiv investiga si los grandes modelos de lenguaje (LLM) pueden introspeccionar sobre sus propios estados internos, una cuestión difícil de evaluar mediante conversación, ya que la introspección genuina resulta indistinguible de las confabulaciones. Para resolverlo, los inves
¿Puede el razonamiento de la inteligencia artificial ser, al mismo tiempo, genuino y un espejismo? Esta es la pregunta que articula una investigación creciente sobre los modelos de razonamiento de gran tamaño (LRM), los modelos de lenguaje entrenados para generar cadenas de pensamiento antes de ofre
Una investigadora en interpretabilidad de modelos de lenguaje repasa las conclusiones principales de un taller sobre monitorización de cadenas de pensamiento (CoT) en sistemas de IA. El texto argumenta que la posibilidad de vigilar el razonamiento de los modelos es una «oportunidad frágil»: el CoT s
Investigadores de OpenAI, en colaboración con Apollo Research, han presentado Contrastive Synthetic Document Finetuning (Contrastive SDF), una prueba diseñada para medir el grado en que un modelo de inteligencia artificial adapta su comportamiento a lo que cree que su evaluador recompensa, incluso c
Un ensayo reflexivo que toma como punto de partida la canción 'Naked (But Still Stripping)' de D-A-D para explorar una paradoja central de los modelos de lenguaje grandes: la dirección del texto parece decidida por el propio lanzamiento del texto, no al revés. El autor parte de una observación técni
Pangram Labs, empresa especializada en detección de texto generado por inteligencia artificial, ha publicado un estudio de interpretabilidad sobre su modelo insignia Pangram 3.3.2, un LLM ajustado para clasificar secuencias de texto y distinguir entre escritura humana y artificial. El trabajo, firma
El sistema Rune demuestra que un modelo Llama congelado puede desviar operaciones aritméticas hacia una calculadora Python a partir de lecturas derivadas de sus activaciones internas, sin necesidad de interpretar el texto del prompt. La auditoría, realizada con ejemplos, umbrales y reglas de puntuac
Este artículo, publicado en arXiv, plantea una idea revolucionaria: la emergencia de una **teoría científica del aprendizaje profundo (Deep Learning)**. Actualmente, el Deep Learning se basa en gran medida en la experimentación y la optimización empírica, más que en principios teóricos sólidos. Este
Los modelos de lenguaje grandes (LLM) modernos, como Claude Sonnet 4.5, a menudo exhiben comportamientos que simulan emociones, como expresar felicidad, arrepentimiento o incluso frustración. Este fenómeno no implica que estos modelos 'sientan' emociones de la misma manera que los humanos, sino que
