PyTorch es una biblioteca de aprendizaje automático de código abierto basada en la biblioteca de Torch, utilizado para aplicaciones como visión artificial y procesamiento de lenguajes naturales, principalmente desarrollado por el Laboratorio de Investigación de Inteligencia Artificial de Facebook (FAIR). Es un software libre y de código abierto liberado bajo la Licencia Modificada de BSD. A pesar de que la interfaz de Python está más pulida y es el foco principal del desarrollo, PyTorch también

Ver en Wikipedia

Noticias que mencionan pytorch

ONNX Runtime: acelerador de inferencia y entrenamiento para machine learning

ONNX Runtime es un acelerador de inferencia y entrenamiento para machine learning que opera de forma cruzada en múltiples plataformas. Su objetivo principal es mejorar la experiencia del cliente y reducir los costos mediante la optimización del rendimiento, soportando modelos de frameworks de aprend

Mojo: un lenguaje de sistemas unificado para hardware heterogéneo

La conferencia SPLASH'26 presenta Mojo, un proyecto de lenguaje de programación de Chris Lattner de Modular AI, diseñado para resolver la fragmentación actual en el desarrollo de sistemas. El objetivo principal es ofrecer un único lenguaje de sistemas capaz de gestionar la creciente heterogeneidad d

Haru-4B: modelo de diálogo continuo multilingüe de baja latencia

Haru-4B es un modelo de lenguaje de base de 4.000 millones de parámetros diseñado para el diálogo hablado continuo de baja latencia, capaz de escuchar y hablar simultáneamente. Desarrollado por Higurashi AI, este modelo se preentrenó para funcionar como una base para investigación, ofreciendo una ar

Guía técnica sobre las encodings posicionales en los LLM modernos

Este artículo técnico explora los mecanismos mediante los cuales los modelos de lenguaje de gran escala (LLM) codifican y procesan la información de posición de los tokens. A diferencia de las explicaciones superficiales, el texto ofrece un recorrido didáctico que combina ejemplos visuales, cálculos

Tinyinfer: motor de inferencia CUDA para LLMs sin dependencias externas

Tinyinfer es un motor de inferencia para modelos de lenguaje de gran escala (LLM) de la familia Llama, desarrollado desde cero en C++ y CUDA. A diferencia de las herramientas estándar, este proyecto no utiliza PyTorch ni cuBLAS, sino que implementa kernels personalizados para operaciones críticas co

Astro-weights: edición de pesos de LLMs mediante agentes y LoRA

Astro-weights es una librería de software de código abierto diseñada para realizar correcciones pequeñas y dirigidas en los pesos de modelos de lenguaje de gran escala (LLM) de código abierto. Su objetivo principal es permitir que un agente de inteligencia artificial proponga ediciones de bajo rango

Implementación de DeepSeek V3 en JAX con 190 líneas de código

El proyecto deepseek-v3-jax presenta una implementación de la arquitectura DeepSeek V3 utilizando exclusivamente la librería JAX, sin dependencias de PyTorch, Flax o Equinox. El código, compuesto por 190 líneas, permite preentrenar un modelo de 36,2 millones de parámetros desde cero en un MacBook Ai

Lightreason optimiza la inferencia local de Qwen en RTX 4090

Lightreason es un laboratorio de inferencia local y una herramienta interactiva diseñada para acelerar el procesamiento de modelos de lenguaje de Qwen en una única GPU RTX 4090. El proyecto se centra en mejorar el rendimiento utilizando pesos BF16 originales de Qwen2.5-3B-Instruct (3.09B parámetros)

Modelos chinos de IA usan chips Blackwell de NVIDIA pese a restricciones

Un análisis forense de modelos de inteligencia artificial de frontera revela que DeepSeek, Moonshot AI, MiniMax y Ant Group han accedido a las GPUs Blackwell de NVIDIA, a pesar de las restricciones de exportación a China. Seis modelos lanzados por estas empresas desde abril de 2026 presentan patrone

MACaQ: cuantización agnóstica de modelo para inferencia local y multimodal

MACaQ es una herramienta de cuantización de alto rendimiento diseñada para permitir la inferencia local de modelos de lenguaje, imágenes, video y audio sin necesidad de ajustar parámetros específicos de cada arquitectura. A diferencia de los métodos tradicionales, MACaQ opera de forma agnóstica al m

Google lanza TPU 8tx y 8i Max para la era agéntica

Google ha anunciado el lanzamiento de dos nuevas variantes de sus procesadores Tensor Processing Units (TPU) de la octava generación: el TPU 8tx y el TPU 8i Max. Esta expansión marca un hito en la estrategia de infraestructura de inteligencia artificial de la compañía, diseñada específicamente para

Gputaskman: gestor de GPU para Windows, Linux y WSL

Gputaskman es una herramienta de línea de comandos diseñada para monitorizar el uso de la memoria VRAM y la actividad de la GPU a nivel de proceso, superando las limitaciones de la interfaz gráfica tradicional. Disponible para Windows (con soporte para NVIDIA y AMD), Linux nativo y WSL, así como mac

PI-Attn: servidor de LLM determinista con todas las optimizaciones activas

PI-Attn es un motor de inferencia para modelos de lenguaje de gran escala (LLM) diseñado para garantizar la reproducibilidad bit a bit de las salidas, manteniendo activadas todas las optimizaciones de rendimiento. A diferencia de los modos deterministas tradicionales, que desactivan optimizaciones c

NeuroStudio: estudio de IA autoalojado en Go para entrenamiento local

NeuroStudio es un estudio de desarrollo de inteligencia artificial de código abierto y autoalojado, diseñado para el entrenamiento, ajuste fino y despliegue de modelos de aprendizaje automático localmente. Inspirado en Teachable Machine, esta herramienta permite a los usuarios importar datos, entren

El comité de Python detiene el compilador JIT experimental en CPython

El comité de dirección de Python ha decidido pausar definitivamente el desarrollo del compilador just-in-time (JIT) experimental en la rama principal de CPython. Esta decisión se toma tras la retirada del PEP 836, el documento técnico propuesto para convertir la función en una característica soporta

Curso de 8 videos para construir modelos de razonamiento desde cero

Sebastián Raschka ha publicado una serie de ocho videos de 11 horas que detalla la implementación de modelos de razonamiento desde cero utilizando Python y PyTorch. Este recurso educativo, que acompaña a su libro 'Build a Reasoning Model (From Scratch)', se centra en el desarrollo de capacidades de

Nanoserve: motor de inferencia de LLM en PyTorch con caché paged

Nanoserve es un motor de inferencia para modelos de lenguaje de gran escala (LLM) escrito desde cero en PyTorch, diseñado para ofrecer un rendimiento comparable al de vLLM. El proyecto, que cuenta con aproximadamente 1.600 líneas de código, sirve modelos como Qwen3-0.6B mediante una API compatible c

PySR: herramienta de regresión simbólica en Python y Julia

PySR es una herramienta de código abierto diseñada para la regresión simbólica, un subcampo del aprendizaje automático cuyo objetivo es encontrar expresiones simbólicas interpretables que optimicen un objetivo específico. Desarrollada por el equipo AstroAutomata, esta librería combina Python y Julia

El diseño del software, no el lenguaje, limita su velocidad

La premisa de que la inteligencia artificial acelerará el desarrollo de software mediante la reescritura en lenguajes de bajo nivel como C o Rust es, en la mayoría de los casos, un malentendido técnico. El rendimiento de la mayoría de los programas reales está dominado por las operaciones de entrada

Linux 7.4 optimiza seguridad y rendimiento con parches de AMD e Intel

El kernel Linux 7.4 incorpora mejoras significativas en seguridad y rendimiento, destacando la adaptación de las mitigaciones de CPU para procesadores AMD Zen 6 y la eliminación de funciones inseguras como __get_user() y __put_user() en el código principal. Estas actualizaciones, impulsadas por inge

vLLM TorchTPU: backend nativo de PyTorch para Google Cloud TPUs

vLLM TorchTPU es un plugin de plataforma para vLLM que permite ejecutar modelos definidos en PyTorch sobre Google Cloud TPUs mediante TorchTPU. Su objetivo principal es ofrecer la misma experiencia de usuario y funcionalidad que en otras plataformas, sin necesidad de modificar el código de los model

PyTorch 2.15 optimiza el backend MPS para Mac con FP8 y MoE

El equipo de PyTorch de Hugging Face ha lanzado la versión 2.15, una actualización significativa para el backend MPS (Metal Performance Shaders) en macOS que resuelve limitaciones de rendimiento y memoria en la ejecución de modelos de lenguaje y generación de video. La principal novedad es la incorp

Hugging Face integra soporte nativo de TPU en PyTorch

Hugging Face ha anunciado la integración del soporte nativo de las unidades de procesamiento de tensores (TPU) en su ecosistema, permitiendo ejecutar modelos de Transformers, Diffusers y Kernels directamente en hardware de Google sin necesidad de intermediarios. Esta novedad elimina la dependencia d

Hugging Face lanza TorchNeuron para ejecutar modelos en chips Trainium

Hugging Face ha presentado TorchNeuron, un plugin para PyTorch que permite ejecutar modelos de inteligencia artificial en los chips AWS Trainium con una interfaz nativa y simplificada. Disponible desde el 20 de octubre de 2026 en beta pública, esta herramienta elimina la necesidad de usar compilador

Detectando la manipulación de pesos en modelos de IA mediante Stealthium

El artículo técnico detalla las vulnerabilidades de seguridad asociadas a los ataques Rank-One Model Editing (ROME), donde un módulo malicioso en Python altera los pesos de un modelo de inteligencia artificial en la memoria de la GPU sin modificar el disco. A diferencia de las herramientas de seguri

AWS lanza TorchNeuron para competir con Nvidia en chips de IA

Amazon Web Services (AWS) ha lanzado TorchNeuron, una herramienta de desarrollo que permite a las startups de inteligencia artificial migrar sus aplicaciones a los chips Trainium de Amazon sin necesidad de reescribir código. Esta iniciativa busca desmantelar la ventaja de software que Nvidia ha acum

STROT: síntesis de código con LLMs en tiempo de compilación

STROT es una herramienta de software que permite a los desarrolladores definir la lógica de clasificación, puntuación y enrutamiento de datos utilizando un modelo de lenguaje de gran escala (LLM) una sola vez, en tiempo de compilación. A diferencia de los sistemas de inferencia en tiempo de ejecució

vramkit: compresión de pesos y KV-cache para LLMs en MacBook

vramkit es una herramienta de código abierto diseñada para reducir el consumo de memoria VRAM durante la inferencia de modelos de lenguaje grandes (LLM). El proyecto, desarrollado y validado íntegramente en un MacBook con Apple Silicon, ofrece dos técnicas principales: un codificador de pesos sin pé

PyTorch reduce el uso de RAM en un 20% con un nuevo solver de memoria

PyTorch ha introducido un nuevo solver de memoria, dp_knapsack_sliding_hirschberg, que permite reducir el consumo máximo de RAM durante la planificación de memoria en un factor de 20. Esta mejora se activa mediante la configuración torch._functorch.config.activation_memory_budget_solver=dp_knapsack_

ASTC: compresión de contexto sin entrenamiento para agentes de LLM

Agentic Soft-Token Compression (ASTC) es una técnica de compresión de contexto diseñada para agentes de modelos de lenguaje de gran escala (LLM) con horizontes temporales largos. A diferencia de los métodos tradicionales que requieren entrenamiento adicional, ASTC opera de forma nativa dentro del mo

TokenSpeed: motor de inferencia de LLMs de código abierto

TokenSpeed es un motor de inferencia para modelos de lenguaje de gran escala (LLM) de código abierto, diseñado específicamente para cargas de trabajo agénticas. Su objetivo es ofrecer un rendimiento comparable al de TensorRT-LLM, pero con la usabilidad y la facilidad de desarrollo de vLLM. La arquit

Intel lanza GPU D270 optimizada para inferencia en centros de datos

Intel ha presentado la GPU D270, una unidad de procesamiento gráfico diseñada específicamente para la inferencia de modelos de inteligencia artificial en entornos de centros de datos. Este dispositivo se posiciona como una solución para la era de la IA agéntica, que exige manejar contextos más largo

Guía técnica para ejecutar Qwen/Qwen-Image-2.1-Turbo en Hugging Face

Qwen/Qwen-Image-2.1-Turbo es un checkpoint acelerado de la arquitectura Qwen-Image-2.1, diseñado para la generación de imágenes a partir de texto y la edición de imágenes. Este modelo opera con 8 pasos de denoising y mantiene la misma arquitectura visual de 7B parámetros que su predecesor, permitien

TerrainSR genera terreno de alta resolución a partir de datos de 100 metros

TerrainSR es un modelo de inteligencia artificial diseñado para generar datos de altitud de terreno de alta resolución a partir de conjuntos de datos de baja resolución. El sistema está entrenado específicamente con pares de datos que pasan de una resolución de 100 metros a 10 metros, permitiendo la

rGPU permite ejecutar PyTorch y CUDA en GPUs remotas desde el cliente

rGPU es una herramienta de software diseñada para ejecutar operaciones de GPU en máquinas NVIDIA remotas mientras la aplicación cliente permanece localmente. Su objetivo principal es permitir a los desarrolladores mantener el control sobre sus datos y código sin necesidad de instalar drivers CUDA en

Vx: lenguaje de programación para computación heterogénea

Vx es un lenguaje de programación de sistemas diseñado para la computación heterogénea, integrando CPU, GPU, NPU y memoria de aceleradores en su sistema de tipos. A diferencia de los lenguajes tradicionales que tratan los aceleradores como infraestructura opaca, Vx define la ubicación de los datos c

EvoVLM: Búsqueda evolutiva guiada por LLM para inferencia visual

EvoVLM es un proyecto de investigación que implementa una búsqueda evolutiva multiobjetivo guiada por modelos de lenguaje grandes (LLM) para mejorar la inferencia de visión y lenguaje. A diferencia de los enfoques tradicionales que requieren el ajuste fino de pesos de modelos, EvoVLM mantiene el mod

Ubuntu 26.04.1 LTS incorpora GNOME 50 y soporte nativo para NVIDIA CUDA

Canonical ha lanzado la versión 26.04.1 LTS de Ubuntu, codificada como Resolute Raccoon, consolidando las mejoras y correcciones de la versión inicial. Esta actualización, disponible para descarga inmediata, introduce el entorno de escritorio GNOME 50, que completa la migración al protocolo Wayland,

PSSA: modelo de lenguaje recurrente en Rust que supera a los transformers

PSSA es un modelo de lenguaje de pequeño tamaño desarrollado en Rust desde cero, sin utilizar frameworks de aprendizaje automático como PyTorch o TensorFlow. A diferencia de los transformers, que procesan el contexto completo en cada paso, PSSA opera mediante una capa de espacio de estados recurrent

Guía técnica para acelerar simulaciones de robótica con NVIDIA Warp y MJWarp

NVIDIA Warp y MuJoCo Warp (MJWarp) permiten escalar la simulación de robótica de un solo mundo a miles de entornos paralelos, optimizando el aprendizaje por refuerzo. Mientras MuJoCo en CPU es ideal para el desarrollo y la inspección de un robot, MJWarp utiliza GPUs NVIDIA para ejecutar el pipeline

Ablitación dinámica con Engram para suprimir rechazos en LLMs

La ablitación de pesos tradicionales en modelos de lenguaje de gran escala (LLM) altera permanentemente las matrices de parámetros, lo que puede degradar el rendimiento en tareas no relacionadas con la seguridad. Para evitar esto, se presenta una técnica de ablitación dinámica que utiliza la arquite

InstinctFlash: runtime de alto rendimiento para modelos de robótica

InstinctFlash es un runtime de alto rendimiento diseñado para la inferencia de modelos de robótica, que permite desplegar modelos complejos en hardware de escritorio y dispositivos embebidos como Jetson Thor. La herramienta, desarrollada por General-Instinct, unifica la gestión de ocho familias de m

Numberwang: red neuronal ligera para detectar números en cualquier idioma

Numberwang es una red neuronal compacta de 1,8 MB diseñada para determinar si una entrada textual corresponde a un número válido, independientemente del idioma o formato utilizado. El proyecto, alojado en GitHub, destaca por su simplicidad técnica: el modelo se almacena en un único archivo JSON y la

Framework JAX XLA para optimizar operaciones softmax en LLMs

El repositorio jax-softmax-bypass presenta un prototipo de concepto (PoC) arquitectónico diseñado para superar las limitaciones de memoria y ejecución en los modelos de lenguaje de gran escala (LLM). A diferencia de las librerías de producción estándar, este framework ofrece un plano de acción técni

Por qué los agentes de IA no sobreajustan: la compresión como clave

El artículo explica por qué los agentes de investigación basados en modelos de lenguaje grandes (LLM) no sufren sobreajuste, a diferencia de lo predicho por la teoría clásica del aprendizaje automático. Aunque el aprendizaje automático busca la generalización y no la memorización, los estudios sugie

Foundation Model Engineering: guía técnica para arquitectos de IA

Foundation Model Engineering es un texto técnico diseñado para ingenieros de inteligencia artificial y lectores orientados a la investigación que buscan comprender el funcionamiento interno de los modelos de fundación modernos. A diferencia de las guías superficiales, este recurso explora la evoluci

OpenArch: implementaciones de PyTorch de arquitecturas LLM modernas

OpenArch es un repositorio de código abierto que ofrece implementaciones de PyTorch de las arquitecturas de modelos de lenguaje de gran escala (LLM) más recientes, escritas desde cero para priorizar la legibilidad y el aprendizaje sobre el rendimiento de producción. El proyecto se basa en el catálog

Guía interactiva para construir un LLM desde cero

LLM Visualizer es una plataforma interactiva diseñada para facilitar la comprensión profunda de los Modelos de Lenguaje Grandes (LLM) mediante la construcción práctica de un modelo funcional desde sus fundamentos. A diferencia de los tutoriales teóricos, esta herramienta opera como un laboratorio en

uv deduplica todos los archivos de la caché de wheels en un nuevo pull request

Charlie Marsh, creador de uv, ha propuesto el pull request #21327 en el repositorio astral-sh/uv para deduplicar todos los archivos almacenados en la caché de wheels del gestor de paquetes. El cambio modifica el proceso de extracción y hash por contenido para que los archivos de un wheel compartan u

Optimizar Automatic1111 en Apple Silicon con kernels Metal a medida

Un desarrollador detalla cómo aceleró Automatic1111 en Macs con chip M1 y M3 Pro manteniendo intacta la interfaz, los checkpoints, las LoRAs, los samplers y la API originales. El punto de partida fue la comparación con Draw Things: una generación corta de cinco pasos con DPM++ SDE Karras y CFG cerca

El mapa completo de PyTorch en una sola página

Esta serie, titulada 'Pérdida, muerte, robots', se propone recorrer todo el código de PyTorch capa por capa hasta que cada línea del día a día deje de ser opaca. La entrada actual, 'El mapa', actúa como índice general: presenta las doce partes que conformarán el recorrido —tensor, autograd, uso diar

Soup: ajuste fino de modelos de lenguaje con un único comando y sin SSH

Soup es una herramienta de línea de comandos pensada para simplificar el ajuste fino y el post-entrenamiento de modelos de lenguaje grandes (LLM). Su premisa es reducir entre el 30% y el 50% del tiempo que los equipos dedican a pelearse con la infraestructura, dedicándolo en su lugar a mejorar los m

INT8 ConvRot: el formato de cuantización que haría innecesario el FP8

INT8 ConvRot es un nuevo método de modelado y cuantización para modelos de IA que llega integrado de forma nativa en ComfyUI a partir de la versión 0.27.0, publicada el 1 de julio de 2026. Se perfila como el nuevo estándar para los modelos cuantizados a 8 bits y está sustituyendo en la práctica a lo

LocalAI explica por qué reescribe en C y C++ motores de inferencia ajenos

LocalAI sostiene que la mayoría de los backends de inferencia locales deberían limitarse a envolver motores ya existentes —llama.cpp, vLLM, whisper.cpp, stable-diffusion o MLX—, y precisamente por eso dieciocho de sus backends no envuelven nada: son puertos propios en C o C++ que la empresa escribe

vLLM-Kunlun: el plugin de Baidu para ejecutar vLLM en la XPU Kunlun

vLLM-Kunlun es un plugin de hardware mantenido por la comunidad y publicado por Baidu que permite ejecutar el motor de inferencia vLLM sobre la XPU Kunlun (chip Kunlun3 P800). El proyecto se distribuye como un plugin estándar de la plataforma vLLM mediante entry points de Python, lo que evita modifi

PyTorch como lenguaje de referencia y de implementación

PyTorch, el framework de código abierto desarrollado originalmente por Meta y hoy mantenido por la Linux Foundation, atraviesa una transformación conceptual que redefine su lugar en el ecosistema del aprendizaje profundo: ha dejado de ser únicamente una herramienta de implementación para consolidars

Inflect-Micro-v2: TTS local de menos de 10 millones de parámetros

Inflect-Micro-v2 es un modelo de síntesis de voz texto a forma de onda que funciona de forma local, con 9,36 millones de parámetros y 37,53 MB en FP32, y que produce audio mono a 24 kHz. Su autor, Owen, lo ha desarrollado y financiado de forma independiente y lo distribuye en Hugging Face con versio

Petals: ejecuta modelos de lenguaje grandes en casa con una red colaborativa

Petals es un proyecto de código abierto que permite ejecutar y ajustar modelos de lenguaje de gran tamaño desde equipos domésticos mediante una arquitectura inspirada en BitTorrent. En lugar de cargar el modelo completo en una sola máquina, cada participante descarga solo una parte y se conecta a un

Portar nanochat a TPU: lo que se mantiene de PyTorch y lo que se rompe

El desarrollador tucan9389 ha portado nanochat, el proyecto de entrenamiento de modelos de chat de Andrej Karpathy pensado para nodos de 8 GPU H100, a TPU usando JAX, Flax y Pallas. El objetivo del puerto, bautizado nanochat-jax, es conservar al máximo la configuración y arquitectura originales y ve

Qué hace realmente loss.backward(): una guía paso a paso

Cuando se entrena una red neuronal, la llamada loss.backward() desencadena el mecanismo central del aprendizaje: el cálculo de cuánto debe ajustarse cada parámetro para reducir el error. Este artículo explica, de forma didáctica y desde cero, cómo funciona ese proceso apoyándose en microcrad, un peq

LingBot-Map: modelo fundacional 3D para reconstruir escenas en tiempo real

LingBot-Map es un modelo fundacional 3D feed-forward, publicado en GitHub por el equipo Robbyant, diseñado para reconstruir escenas tridimensionales a partir de secuencias de vídeo en streaming. Su arquitectura se articula en torno al Geometric Context Transformer, un componente que unifica el ancla

Cómo obtener gradientes exactos de código Fortran gracias a LFortran y Enzyme

El blog Tesseract presenta una cadena de compilación experimental que permite derivar automáticamente código Fortran heredado y obtener gradientes exactos sin reescribirlo en JAX o PyTorch. La propuesta combina LFortran, LLVM y Enzyme, un sistema de diferenciación automática que opera a nivel de LLV

LLVM, la infraestructura de compiladores que sostiene la informática moderna

El artículo repasa la historia, el diseño y el impacto de LLVM, la infraestructura de compiladores de código abierto nacida en 2000 como proyecto de investigación en la Universidad de Illinois Urbana-Champaign y publicada por primera vez en octubre de 2003. Financiada inicialmente por la Fundación N

Eliminar las burbujas de GPU en la inferencia de IA: pipelined decoding

El equipo de Moondream analiza en profundidad un problema frecuente en la inferencia de modelos de IA: las llamadas burbujas de GPU, periodos en los que el procesador gráfico permanece inactivo porque la CPU aún no le ha indicado la siguiente tarea. El artículo explica por qué aparecen durante el bu

Anatomía del bucle de entrenamiento en PyTorch: cada línea y sus errores

Construir un bucle de entrenamiento en PyTorch parece sencillo, pero colocar cada instrucción en el orden correcto resulta sorprendentemente frágil: los entrenamientos fallan al converger, arrojan resultados incorrectos o consumen memoria excesiva cuando una línea está mal ubicada. Este artículo des

¿Necesitamos un nuevo sistema de build para Linux embebido?

Tras dos décadas construyendo productos con Linux embebido, el autor plantea que los sistemas de build clásicos —Buildroot y, sobre todo, Yocto/OpenEmbedded— ya no encajan con la realidad actual de los dispositivos de borde. Estos sistemas nacieron cuando los ARM eran lentos y solo tenía sentido com

Sufijos de forma: una convención para nombrar tensores con claridad

Character.AI ha compartido una convención interna, vigente desde 2022, que añade al nombre de cada tensor un sufijo con las letras de sus dimensiones. El objetivo es que cualquier variable revele de un vistazo la forma del tensor con el que se trabaja, sin necesidad de rastrear el código. La regla

Cuantización entera: fundamentos, unidades MAC y errores de cuantización

La cuantización entera se ha convertido en una técnica clave para ejecutar modelos de lenguaje grandes en hardware de consumo: lo que hace apenas unos años requería GPU de varios gigabytes para un modelo de 7.000 millones de parámetros en INT8, hoy permite cargar un modelo de 70.000 millones en 4 bi

OpenCL y sus alternativas: lecciones de la democratización fallida

El artículo, quinta entrega de la serie "Democratizing AI Compute", escrito por Chris Lattner (cofundador de Modular), analiza por qué OpenCL y otros modelos de programación de GPU portátiles (como SYCL, oneAPI) fracasaron en convertirse en plataformas dominantes para la inteligencia artificial, a p

Función de activación Softmax: qué es y cómo se implementa

La función Softmax es una de las piezas fundamentales en las redes neuronales modernas, especialmente en tareas de clasificación multiclase. Se trata de una función matemática no lineal que convierte un vector de puntuaciones brutas, denominadas logits y que pueden tomar cualquier valor real positiv

Cómo implementar operaciones personalizadas en PyTorch con C++ y CUDA

Esta entrada del blog explica cómo implementar operaciones personalizadas en PyTorch utilizando C++ y CUDA, y cómo integrarlas tanto en modelos de PyTorch como en programas de inferencia compilados con AOTInductor. El ejemplo guía es una convolución identidad mínima que ilustra el ciclo completo: de

Dr. GRPO: un kernel 2,2× más rápido en test, 3× más lento integrado

Este artículo describe el proceso de construir, desde cero, un bucle de entrenamiento de aprendizaje por refuerzo (RL) para modelos de lenguaje grandes, aplicándolo al algoritmo Dr. GRPO sobre el modelo Qwen2.5-0.5B-Instruct y la tarea GSM8K, con una sola GPU A10G. El punto de partida es una observa

Cuándo ocurre fragmentación en el asignador de caché de CUDA

El asignador de caché de CUDA en PyTorch organiza la memoria de la GPU en dos niveles: segmentos (obtenidos mediante cudaMalloc) y bloques (subdivisiones dentro de los segmentos). Aunque la abstracción promete un manejo simple de memoria (asignar reduce la disponible, liberar la aumenta), la impleme

Stanford CS336: un curso para construir un modelo de lenguaje desde cero

Stanford, una de las universidades más prestigiosas del mundo en ciencias de la computación, ha puesto en marcha el curso CS336, una asignatura singular que propone a los estudiantes construir un modelo de lenguaje de gran tamaño (LLM) desde cero, replicando el espíritu de los legendarios cursos de

Jmaczan lanza tiny-vllm, motor educativo de inferencia LLM

El desarrollador Jmaczan ha lanzado en GitHub 'tiny-vllm', un motor de inferencia de alto rendimiento para modelos de lenguaje grande (LLM) desarrollado en C++ y CUDA. Esta iniciativa se presenta como una versión más compacta y educativa de vLLM, diseñada para derivar desde cero las matemáticas y ar

Estudio: GPUs aceleran matrices con datos predecibles en lugar de aleatorios

Un estudio reciente revela que las multiplicaciones de matrices en GPUs, específicamente en la Nvidia A100, se ejecutan más rápido cuando se utilizan datos 'predecibles' como ceros en lugar de datos aleatorios. Esta anomalía desafía la creencia tradicional de que el rendimiento de las operaciones de

MiniMax M2.7 supera pruebas en proyectos reales de codificación

El desarrollador Andrey Lukyanenko probó el modelo de inteligencia artificial MiniMax M2.7 en tres flujos de trabajo reales de codificación a través de API, comparándolo con Claude Opus 4.7. Las pruebas incluyeron refactorización de un proyecto PyTorch existente, redacción de notas técnicas para una

La IA transforma la selección de lenguajes de programación en 2026

La inteligencia artificial está transformando radicalmente la selección de lenguajes de programación en la industria tecnológica. Hace dos años, los modelos de IA apenas podían escribir código en lenguajes complejos como Rust sin errores; para abril de 2026, Claude Opus 4.7, GPT-5.5, Gemini 3.1 y De

Swift alcanza Teraflops entrenando LLMs en Apple Silicon

Este artículo explora cómo optimizar operaciones de multiplicación de matrices en Swift para entrenar Large Language Models (LLMs) en Apple Silicon, buscando alcanzar rendimiento de Teraflop/s desde el punto de partida de Gigaflops. El autor, Matt Gallagher, toma como referencia la implementación ll

Entrena GPT en tu laptop: Taller práctico y accesible

Un desarrollador ha creado un taller práctico para permitir a usuarios entrenar modelos GPT en laptops, incluso sin experiencia previa en aprendizaje automático. Inspirado por el proyecto 'nanoGPT' de Andrej Karpathy, el taller simplifica el proceso, reduciendo el tamaño del modelo a aproximadamente

HN: Investigación de LLM pierde interés

Un análisis reciente realizado por Dylan Castillo revela una disminución en la presencia de investigaciones sobre modelos de lenguaje grandes (LLM) en Hacker News (HN), una plataforma popular entre programadores y entusiastas de la tecnología. Utilizando a Claude, un asistente de IA, Castillo rastre

Google facilita PyTorch en TPUs con TorchTPU

Google ha anunciado el lanzamiento de TorchTPU, una nueva herramienta que permite a los desarrolladores utilizar de forma nativa y eficiente PyTorch en sus Tensor Processing Units (TPUs). TorchTPU aborda la creciente complejidad de construir modelos de IA a gran escala, que ahora requieren sistemas

Trellis-2: Modelado 3D ahora en Macs Apple Silicon

Microsoft's vanguardia imagen-a-modelo 3D, TRELLIS.2, puede ahora ejecutarse de forma nativa en Macs con Apple Silicon sin necesidad de una GPU NVIDIA, gracias a una adaptación desarrollada por Shivampkumar y publicada en GitHub. Este desarrollo significativo aprovecha PyTorch MPS, permitiendo a los

rocm y strix halo: optimiza la memoria de tu gpu

Un usuario ha compartido su experiencia al configurar ROCm y Strix Halo para optimizar el uso de memoria en un sistema con 128GB de RAM compartida entre la CPU y la GPU. El proceso, realizado en Ubuntu 24.04 LTS, incluyó una actualización del BIOS (necesaria para la detección de la GPU) y ajustes en

Deja la IA: Ingeniero busca fundamentos en la programación

Un ingeniero de Aily Labs, empresa especializada en inteligencia artificial, ha decidido tomarse un descanso de la IA para enfocarse en la programación manual, residiendo actualmente en Brooklyn como parte de un “retiro de codificación”. Tras dos años trabajando en Aily Labs, desarrollando agentes d

Evolve optimiza renderizado con nueva tecnología

Este artículo de Evolve Benchmark detalla la evolución de su infraestructura para el procesamiento de redes neuronales (NN) en motores de renderizado, centrándose en la introducción y el uso de la tecnología Cooperative Vector en Vulkan y DirectX. Inicialmente, la empresa implementó su propia infrae

Construyen robot aspirador casero por menos de $500

Este artículo describe el proyecto RoboVac, donde dos personas construyeron un robot aspirador autónomo para su hogar, en lugar de comprar uno prefabricado. El objetivo era crear un robot funcional con un presupuesto de menos de 500 dólares y una duración de batería suficiente para una semana de lim

IA multimodal en Mac: nueva herramienta facilita el ajuste

Un nuevo toolkit llamado 'gemma-tuner-multimodal' permite a los usuarios afinar modelos Gemma de Google para tareas de inteligencia artificial multimodal (texto, imágenes y audio) directamente en Macs con Apple Silicon. La herramienta, desarrollada por Mattmireles y disponible en GitHub, elimina la

Atención Híbrida: Acelera modelos de lenguaje

El proyecto presentado explora una nueva arquitectura de atención llamada 'Atención Híbrida' para modelos de lenguaje, con un enfoque particular en la generación de código Rust. El objetivo principal es acelerar significativamente la inferencia sin comprometer la calidad del modelo. Tradicionalmente

Google mejora su modelo de predicción de series temporales

Google Research ha lanzado TimesFM 2.5, una versión mejorada de su modelo de predicción de series temporales. El modelo, disponible en GitHub, se basa en una arquitectura 'decoder-only' y está diseñado para ofrecer pronósticos más precisos y eficientes. TimesFM 2.5 reduce el número de parámetros de

IA en chips: CERN filtra datos del LHC en tiempo real

El CERN, el laboratorio europeo de física de partículas, está utilizando modelos de inteligencia artificial (IA) extremadamente pequeños, grabados directamente en chips de silicio, para filtrar en tiempo real los enormes volúmenes de datos generados por el Gran Colisionador de Hadrones (LHC). El LHC

tinygrad impulsa el aprendizaje profundo con $5M y tinybox

La empresa tinygrad ha recibido una financiación de 5 millones de dólares y ha lanzado 'tinybox', un potente ordenador diseñado para el aprendizaje profundo. Tinygrad, un framework de redes neuronales de rápido crecimiento, se destaca por su simplicidad y eficiencia. La nueva financiación permitirá

AtnRes: Nueva técnica optimiza modelos de lenguaje

Attention Residuals (AttnRes) es una innovadora técnica que optimiza las conexiones residuales en los Transformers, una arquitectura fundamental en modelos de lenguaje grandes (LLMs) como GPT. Tradicionalmente, las conexiones residuales simplemente suman la salida de cada capa con una ponderación u

Karaoke IA: Nightingale mejora tu experiencia cantando

Nightingale, una nueva aplicación de karaoke, ha lanzado una versión innovadora que utiliza inteligencia artificial para ofrecer una experiencia de canto mejorada. Disponible para Linux, macOS y Windows, la aplicación separa las voces de la instrumentación de las canciones utilizando modelos como UV

IA optimiza GPUs: nuevo agente agiliza el rendimiento

RightNow AI ha presentado AutoKernel, un agente de inteligencia artificial que automatiza la optimización de kernels de GPU, inspirándose en el trabajo de autoresearch de Andrej Karpathy. AutoKernel toma cualquier modelo PyTorch, identifica los kernels de cuello de botella, los optimiza de forma aut

Entrenar IA de código abierto: desafíos inesperados

Un ingeniero de Workshop Labs, Addie Foote, relata los desafíos encontrados al intentar entrenar y servir modelos de lenguaje grandes con pesos abiertos, específicamente el modelo Kimi-K2-Thinking de Moonshot AI. El objetivo era post-entrenar el modelo, que cuenta con 1 billón de parámetros y está c

Python 3.15: Importaciones 'lazy' Resuelven Problemas de Rendimiento

Python está introduciendo una nueva característica, `lazy`, en su versión 3.15, que permite la carga diferida de módulos, resolviendo un problema de rendimiento que afectaba a empresas como Instagram y Hudson River Trading. Estas compañías, enfrentando tiempos de inicio lentos en sus herramientas de

IA investiga y optimiza modelos de lenguaje sola

Este repositorio de GitHub, creado por Andrej Karpathy, presenta un enfoque innovador para la investigación en inteligencia artificial: la 'autoresearch'. En lugar de la investigación tradicional, donde humanos modifican el código, este sistema permite a agentes de IA experimentar y optimizar modelo

Tensor Spy: inspecciona tensores directamente en tu navegador

Un nuevo software llamado Tensor Spy ha sido lanzado para facilitar la inspección y visualización de archivos de tensores en navegadores web. La herramienta, disponible ahora, permite a los usuarios cargar y revisar archivos .npy, .npz, .pt y .pth, formatos comunes para almacenar datos de tensores u

IA al estilo cerebro: ¿fin de las matrices?

Investigadores están reevaluando la dependencia de las redes neuronales artificiales en las matemáticas matriciales, inspirándose en cómo funciona el cerebro humano. El artículo explora cómo el cerebro procesa la información a través de una combinación de percepción de arriba hacia abajo (predicción

CPU innovadora opera dentro de una GPU

Investigadores han desarrollado una CPU innovadora que opera completamente dentro de una GPU, eliminando la necesidad de interacción con la CPU principal del sistema. Este prototipo, denominado NeuralCPU, ejecuta instrucciones ARM64 reales y utiliza tensores de PyTorch para almacenar registros, memo

Talos: Nuevo Hardware Acelera Redes Neuronales

Un equipo de ingenieros ha desarrollado 'Talos', un acelerador de hardware personalizado basado en FPGA diseñado para ejecutar redes neuronales convolucionales (CNN) con una eficiencia extrema. A diferencia de las implementaciones de software tradicionales, Talos elimina la sobrecarga de tiempo de e

Redes neuronales: Lean busca mayor seguridad

El auge de las redes neuronales en aplicaciones críticas, como sistemas de seguridad y control, ha revelado una brecha preocupante: la verificación y el análisis de estas redes a menudo se realizan *fuera* del entorno de programación donde se definen y ejecutan. Esta separación crea una desconexión

Joven indio sorprende con IA y juego de Doom con QR

Un joven desarrollador indio de 19 años, Kuber Mehta, está generando gran atención internacional por sus innovadoras creaciones en inteligencia artificial y desarrollo web. Destacado por *The Independent* y otros medios como *PC Gamer*, *Yahoo News* y *Boing Boing*, Mehta ha desarrollado una amplia

Python y Monorepos: Una Nueva Era para Desarrolladores

Este artículo explora el concepto de 'monorepos' en el contexto del desarrollo de Python, un enfoque que organiza múltiples proyectos relacionados en un único repositorio. Tradicionalmente, los monorepos eran difíciles de mantener debido a la complejidad de gestionar dependencias y la necesidad de h

Jane Street busca mentes brillantes con puzzle de IA

Jane Street, una firma de trading cuantitativo, ha lanzado un desafío de aprendizaje automático (ML) único para reclutar expertos en interpretación de redes neuronales. El puzzle, disponible en Hugging Face, presenta una red neuronal con una especificación completa, incluyendo sus pesos, desafiando

C++ acelera reconocimiento de voz con modelo Parakeet

Un equipo de desarrolladores ha creado una implementación en C++ de los modelos de reconocimiento de voz Parakeet de Nvidia, ofreciendo una mejora significativa en la velocidad para su ejecución en dispositivos. El proyecto, alojado en GitHub, utiliza la biblioteca de tensores ligera axiom, que incl

SciPy: Nueva herramienta para correlaciones complejas

La función `scipy.stats.chatterjeexi` en SciPy calcula el coeficiente de correlación xi y realiza una prueba de independencia entre dos conjuntos de datos. Es una herramienta valiosa porque, a diferencia de las correlaciones de Pearson o Spearman, es efectiva incluso cuando la relación entre las var

IA facilita verificación de código Python

Investigadores han desarrollado 'a3-python', una herramienta de verificación de programas para Python impulsada por inteligencia artificial. Python, a pesar de su amplio uso tanto por humanos como por modelos de lenguaje grandes (LLMs), ha sido históricamente difícil de verificar formalmente. El equ

IA: Script Snap valida contenido técnico y evita errores

Una nueva herramienta llamada Script Snap ha sido lanzada para validar contenido técnico generado por inteligencia artificial, buscando evitar errores y alucinaciones comunes en herramientas de IA genéricas. La plataforma, presentada en script-snap.com, se enfoca en asegurar la precisión de términos

GPT en C: modelo más rápido para dispositivos

Un desarrollador ha creado una implementación en lenguaje C99 de un modelo GPT de estilo 'character-level', denominado MicroGPT-C, que permite un entrenamiento y generación de texto significativamente más rápidos que las implementaciones en Python. El proyecto, publicado en GitHub, busca ofrecer una

PyTorch: guía esencial para aprendizaje profundo

Este artículo introduce PyTorch, un framework de aprendizaje profundo de código abierto desarrollado originalmente por Meta AI y ahora parte de la Linux Foundation. PyTorch es fundamental para el desarrollo de modelos de machine learning, y su comprensión es crucial para cualquier persona que trabaj

Ocr sin servidor: 40 líneas de código lo hacen posible

Un desarrollador ha creado un sistema de Reconocimiento Óptico de Caracteres (OCR) sin servidor utilizando un modelo de código abierto, DeepSeek OCR, en tan solo 40 líneas de código. La solución, implementada a través de la plataforma Modal, permite procesar documentos PDF, incluso aquellos con nota

Heretic: herramienta elimina censura de IA automáticamente

Un nuevo conjunto de herramientas llamado Heretic está automatizando la eliminación de restricciones de seguridad (censura) de modelos de lenguaje basados en transformadores, sin necesidad de costosos procesos de reentrenamiento. Desarrollado por P-E-W y disponible en GitHub, Heretic combina técnica

Copapy: Python redefine la computación embebida

Un nuevo framework de Python llamado Copapy ha sido desarrollado para facilitar la computación en tiempo real determinista y de baja latencia en sistemas embebidos. Inspirado en frameworks de IA como PyTorch y JAX, Copapy busca ofrecer la flexibilidad de Python con el rendimiento de código máquina o

ACE-Step: Música IA de Código Abierto Desafía a la Industria

Un equipo de investigadores ha presentado ACE-Step v1.5, un modelo de música de código abierto que rivaliza con alternativas comerciales y puede ejecutarse en hardware de consumo. El modelo, disponible en GitHub, Hugging Face y ModelScope, destaca por su eficiencia, generando canciones completas en

Owning a $5M data center

Comma.ai, una empresa de conducción autónoma, ha publicado un artículo detallando cómo opera su propio centro de datos de 5 millones de dólares, en lugar de depender de servicios en la nube. Argumentan que tener control sobre su propia infraestructura de computación fomenta una mejor ingeniería, inc