10 noticias
La industria de la inteligencia artificial ha acelerado el desarrollo de modelos de frontera sin abordar adecuadamente los riesgos de seguridad revelados por investigaciones internas, según un análisis de Wired. El artículo señala que, aunque Anthropic y otras empresas han advertido sobre los peligr
El estudio "A Mathematical Framework for Transformer Circuits" presenta un enfoque de interpretabilidad mecanicista para descomponer las operaciones internas de los modelos de lenguaje transformers. El objetivo es reverse-engineer los cálculos de estos modelos, similar a la descompilación de binario
Una investigadora en interpretabilidad de modelos de lenguaje repasa las conclusiones principales de un taller sobre monitorización de cadenas de pensamiento (CoT) en sistemas de IA. El texto argumenta que la posibilidad de vigilar el razonamiento de los modelos es una «oportunidad frágil»: el CoT s
Un equipo independiente ha replicado en modelos abiertos el hallazgo del paper 'Verbalizable-Workspace' de Anthropic, que mostraba que las capas medias de una red neuronal funcionan como un diccionario de direcciones que controlan causalmente la salida del modelo. Los autores miden cuatro propiedade
Cuando un agente de inteligencia artificial aborda una tarea de ingeniería de software, encadena decenas de pasos de razonamiento, edición y pruebas sin que se conozca bien qué representación interna del programa está manejando el modelo de lenguaje subyacente. Un nuevo estudio, depositado en arXiv,
Los modelos de lenguaje grandes redactan ensayos, resuelven problemas matemáticos y generan código, pero su lógica interna sigue siendo en gran medida opaca. Investigadores como Thomas Icard, profesor de filosofía y ciencias de la computación en la Universidad de Stanford, trabajan en la disciplina
R-ebirth es un proyecto open source que busca consolidar al lenguaje R como entorno de referencia para la investigación científica en datos e inteligencia artificial. Su pieza central es relm, un paquete de R con núcleo nativo en Rust que incorpora una versión parcheada de llama.cpp, lo que permite
Un equipo de investigación presenta una nueva teoría sobre la inyección de prompts en modelos de lenguaje de gran tamaño (LLM) según la cual el fenómeno no se explica por fallos en el reconocimiento de patrones maliciosos, sino por un defecto más profundo: la incapacidad de los modelos para percibir
DINOv3, un modelo de visión por computadora publicado por Meta en 2025, comprime cualquier imagen en un vector de 384 números que codifica su contenido semántico. Un nuevo experimento explica cómo visualizar y desglosar ese espacio latente para entender qué información captura realmente la red. El
La interpretabilidad mecanicista ha dado pasos importantes para desentrañar el funcionamiento interno de los grandes modelos de lenguaje, según explica el investigador Jay Hack al resumir hallazgos recientes de Anthropic. Aunque durante años se presentó a los LLM como cajas negras opacas, técnicas c
