41 noticias
La teoría computacional de la mente (CTM) sostiene que los procesos mentales son, en esencia, cómputos ejecutados por un sistema computacional. Surgió con fuerza en las décadas de 1960 y 1970 dentro de la ciencia cognitiva y gozó durante años de un estatus casi ortodoxo, aunque más tarde ha recibido
Los modelos de lenguaje de gran tamaño (LLM) han concentrado la atención pública y la inversión en inteligencia artificial durante los últimos años, pero una nueva categoría empieza a despuntar: los llamados "modelos del mundo". A diferencia de los LLM, centrados en texto, estos sistemas aspiran a s
Artifipedia ha presentado un mapa visual e interactivo que reúne 56 conceptos clave de inteligencia artificial y los 150 vínculos que los relacionan. La herramienta funciona como una enciclopedia navegable: cada nodo representa un término —desde "Attention" hasta "Hallucination", pasando por "Transf
Cuando se entrena una red neuronal, la llamada loss.backward() desencadena el mecanismo central del aprendizaje: el cálculo de cuánto debe ajustarse cada parámetro para reducir el error. Este artículo explica, de forma didáctica y desde cero, cómo funciona ese proceso apoyándose en microcrad, un peq
El espacio latente de los grandes modelos de lenguaje constituye una nueva plataforma para la creatividad, según plantea el ensayo firmado por Kevin Kelly. Un modelo de lenguaje de gran tamaño (LLM) condensa el equivalente a la práctica totalidad del conocimiento humano —libros, páginas web, debates
Un profesional con dos décadas de experiencia en aprendizaje automático reflexiona sobre el rechazo, cada vez más estigmatizado, a los modelos de inteligencia artificial generativa. Tras una primera década de avances notables en redes neuronales, el autor lamenta que la innovación técnica se haya es
Un tensor no es más que un arreglo plano de números acompañado de metadatos que indican cómo interpretar esos valores como un objeto multidimensional. Esa es la premisa central de este artículo, que guía al lector paso a paso en la construcción de una biblioteca de tensores escrita en C y acelerada
Los modelos de lenguaje grandes redactan ensayos, resuelven problemas matemáticos y generan código, pero su lógica interna sigue siendo en gran medida opaca. Investigadores como Thomas Icard, profesor de filosofía y ciencias de la computación en la Universidad de Stanford, trabajan en la disciplina
El artículo de Irving John Good, fechado originalmente entre 1962 y 1964, es uno de los textos fundacionales del concepto de "máquina ultrainteligente", definida como un dispositivo capaz de superar ampliamente todas las actividades intelectuales de cualquier ser humano. Good, matemático de Trinity
Ensayo divulgativo que sostiene que las máquinas carecen tanto del olvido como del perdón, dos fenómenos humanos经常 presentados como gemelos pero que en realidad son de naturaleza muy distinta. El texto recorre los cuatro lugares donde un sistema de IA almacena memoria —los pesos del modelo, la venta
Los grandes modelos de lenguaje (LLM) actuales comparten un esqueleto común basado en la arquitectura transformer. Comprender las piezas fundamentales de ese bloque permite leer papers y fichas técnicas con criterio. Este artículo recorre los mecanismos esenciales: tokenización, embeddings, codifica
Un equipo de ingeniería biomédica de la Universidad de Columbia identificó un circuito neuronal mediante el cual las áreas cerebrales dedicadas al pensamiento modulan las regiones visuales primarias, lo que explica cómo el cerebro prioriza la información que procesa. El hallazgo, publicado hoy en PL
El sitio web "30 papers" recopila una lista de lecturas que, según el rumor, el cofundador de OpenAI Ilya Sutskever entregó al ingeniero John Carmack. El sitio reconoce que hasta ahora solo tiene 27 de los 30 trabajos y solicita ayuda para completar la versión canónica. La selección funciona como un
Las leyes de escalado son uno de los hallazgos empíricos más relevantes del aprendizaje profundo: describen cómo la pérdida de entrenamiento disminuye de forma predecible, siguiendo una curva de potencia, al aumentar el tamaño del modelo (N), el volumen de datos (D) y el cómputo (C). Su utilidad prá
microcrad es un pequeño motor de diferenciación automática escalar escrito en C, acompañado de un perceptrón multicapa, concebido como una reimplementación del proyecto micrograd de Andrej Karpathy. Su propósito es eminentemente educativo: permitir a cualquier persona leer, modificar y experimentar
La cuantización entera se ha convertido en una técnica clave para ejecutar modelos de lenguaje grandes en hardware de consumo: lo que hace apenas unos años requería GPU de varios gigabytes para un modelo de 7.000 millones de parámetros en INT8, hoy permite cargar un modelo de 70.000 millones en 4 bi
La función Softmax es una de las piezas fundamentales en las redes neuronales modernas, especialmente en tareas de clasificación multiclase. Se trata de una función matemática no lineal que convierte un vector de puntuaciones brutas, denominadas logits y que pueden tomar cualquier valor real positiv
DINOv3, un modelo de visión por computadora publicado por Meta en 2025, comprime cualquier imagen en un vector de 384 números que codifica su contenido semántico. Un nuevo experimento explica cómo visualizar y desglosar ese espacio latente para entender qué información captura realmente la red. El
Un perceptrón es la unidad mínima de una red neuronal: recibe un número y devuelve una respuesta de sí o no. Aunque parezca trivial, la idea, propuesta por Frank Rosenblatt en 1958, es el germen de todas las redes neuronales actuales. El artículo construye uno desde cero en Python, sin matemáticas a
El ensayo «Human-like Neural Nets by Catapulting», publicado por el investigador y escritor Gwern en su blog personal, plantea una propuesta especulativa para desarrollar redes neuronales con un rendimiento comparable al del cerebro humano. La hipótesis central sostiene que las diferencias entre los
Un equipo de investigadores demuestra que los modelos de lenguaje grandes (LLM) pueden transmitir rasgos de comportamiento como preferencias o desalineación a través de datos aparentemente no relacionados, un fenómeno que denominan 'aprendizaje subliminal'. El hallazgo, publicado en Nature, tiene im
Los modelos de lenguaje de gran tamaño (LLM) se construyen apilando bloques transformer una y otra vez, por lo que entender la maquinaria del transformer es la base para comprender su funcionamiento. Esta guía recorre los componentes esenciales de un LLM moderno sin profundizar en las matemáticas, c
La interpretabilidad mecanicista ha dado pasos importantes para desentrañar el funcionamiento interno de los grandes modelos de lenguaje, según explica el investigador Jay Hack al resumir hallazgos recientes de Anthropic. Aunque durante años se presentó a los LLM como cajas negras opacas, técnicas c
El cuento 'They're Made Out of Weights', de Max Leiter, rinde homenaje al relato clásico de Terry Bisson 'They're Made Out of Meat' y lo traslada al terreno de la inteligencia artificial. A través de un diálogo entre dos interlocutores, la obra desmonta la idea de que los modelos de lenguaje moderno
La optimización del rendimiento en modelos de aprendizaje profundo a menudo se reduce a una colección de trucos ad-hoc sin fundamento, como instalar versiones específicas de PyTorch o usar operaciones in-place. Sin embargo, para lograr un rendimiento óptimo y sostenible, es crucial entender los prin
Los transformers autorregresivos son la arquitectura fundamental que permite a los modelos de lenguaje grande (LLMs) generar texto token a token, prediciendo cada siguiente palabra basándose en todo lo previamente generado. Este proceso se divide en dos fases: prefill (preparación) y decode (generac
El PyTorch Landscape es una plataforma web interactiva desarrollada por la PyTorch Foundation que funciona como un catálogo visual y organizado de todas las herramientas, bibliotecas, proyectos y recursos que conforman el ecosistema PyTorch. Este landscape permite a desarrolladores, investigadores y
... full summary ...
El aprendizaje continuo representa uno de los mayores desafíos en el desarrollo de modelos de inteligencia artificial. Actualmente, los sistemas de IA pueden aprender nuevas tareas, pero suelen olvidar lo que sabían anteriormente este fenómeno se conoce como 'olvido catastrófico'. El artículo presen
Este artículo, basado en la obra de Borges y Locke, explora una teoría sobre el funcionamiento del aprendizaje profundo (Deep Learning) que desafía las explicaciones tradicionales. Borges, a través de su personaje Funes, ilustra cómo la capacidad de recordar todo (datos sin filtrar) impide el pensam
Este artículo, publicado en arXiv, plantea una idea revolucionaria: la emergencia de una **teoría científica del aprendizaje profundo (Deep Learning)**. Actualmente, el Deep Learning se basa en gran medida en la experimentación y la optimización empírica, más que en principios teóricos sólidos. Este
Este artículo de Tom Schroeder explora diversas técnicas para aproximar la función tangente hiperbólica (tanh), una función crucial en áreas como redes neuronales y procesamiento de audio. La función tanh mapea cualquier número real a un rango entre -1 y 1, presentando una curva en forma de 'S' que
El artículo explora el formato de punto flotante de 4 bits (FP4), una alternativa de baja precisión a los formatos de punto flotante tradicionales de 32 y 64 bits. Originalmente, los números de punto flotante se almacenaban en 32 bits, luego evolucionaron a 64 bits para aumentar la precisión. Sin e
Este artículo de Evolve Benchmark detalla la evolución de su infraestructura para el procesamiento de redes neuronales (NN) en motores de renderizado, centrándose en la introducción y el uso de la tecnología Cooperative Vector en Vulkan y DirectX. Inicialmente, la empresa implementó su propia infrae
Este artículo explora una idea fascinante en el entrenamiento de redes neuronales: el impacto del orden en que se presentan los ejemplos de entrenamiento. Normalmente, se asume que el orden no debería importar, especialmente desde una perspectiva bayesiana donde el conjunto de datos es una colección
Los modelos de lenguaje grandes (LLM) modernos, como Claude Sonnet 4.5, a menudo exhiben comportamientos que simulan emociones, como expresar felicidad, arrepentimiento o incluso frustración. Este fenómeno no implica que estos modelos 'sientan' emociones de la misma manera que los humanos, sino que
Este proyecto, llamado "thereisnospoon", es un recurso único para ingenieros que buscan comprender los sistemas de aprendizaje automático (ML) de una manera similar a como comprenden el desarrollo de software tradicional. No es un tutorial o un libro de texto, sino un 'primer' que construye un model
El entrenamiento de modelos de lenguaje (LLM) está enfrentando un problema creciente: la necesidad de cantidades exponencialmente mayores de datos para seguir mejorando. La disponibilidad de texto natural de alta calidad se proyecta que se agotará en 2028, y el texto de internet está contaminado con
Este artículo introduce PyTorch, un framework de aprendizaje profundo de código abierto desarrollado originalmente por Meta AI y ahora parte de la Linux Foundation. PyTorch es fundamental para el desarrollo de modelos de machine learning, y su comprensión es crucial para cualquier persona que trabaj
El artículo "Attention is All You Need" introduce una nueva arquitectura de red neuronal llamada Transformer, que revolucionó el campo del procesamiento del lenguaje natural y más allá. Tradicionalmente, los modelos de secuencia a secuencia, como los utilizados en traducción automática, se basaban e
Este artículo explica de manera visual y accesible el funcionamiento básico de las redes neuronales, inspiradas en las redes neuronales biológicas. La idea central es desmitificar la inteligencia artificial (IA) y proporcionar una comprensión fundamental de cómo operan estos sistemas.
