hardware · 37 menciones
Meta construirá un centro de datos de 10 000 millones de dólares llamado Hyperion en Richland Parish, Louisiana, que recibirá 3 300 millones en exenciones fiscales durante 20 años, una cantidad equivalente a más de siete años del presupuesto policial del estado. El acuerdo fiscal, aprobado en julio
Este artículo explora cómo optimizar operaciones de multiplicación de matrices en Swift para entrenar Large Language Models (LLMs) en Apple Silicon, buscando alcanzar rendimiento de Teraflop/s desde el punto de partida de Gigaflops. El autor, Matt Gallagher, toma como referencia la implementación ll
La plataforma Modal ha logrado mejorar el rendimiento de inferencia multimodal en más de un 10% mediante la implementación de un simple diccionario Python en el motor de inferencia SGLang. El cambio, ya integrado en SGLang v0.5.10, aumentó el throughput de solicitudes de 22.2 a 25.7 req/s (un 16.2%
Un incidente viral en redes sociales reveló cómo un usuario afirmó que un agente de Cursor/Claude eliminó la base de datos de producción de su empresa. El incidente ha generado debate sobre la responsabilidad en el uso de la inteligencia artificial y la seguridad de las APIs. El autor del artículo,
La capacidad de los modelos de inteligencia artificial para mantener conversaciones coherentes se ve limitada por el "contexto de ventana", la cantidad de información que pueden procesar simultáneamente. Aunque los modelos actuales pueden manejar entre 128.000 y más de un millón de tokens, su rendim
Apple ha habilitado una innovadora técnica de inferencia de GPU sin copia en sus chips Silicon, permitiendo que los módulos WebAssembly (Wasm) compartan directamente su memoria lineal con la GPU. Tradicionalmente, la comunicación entre Wasm y la GPU implicaba costosas copias de datos a través de un
VectorWare ha anunciado un hito significativo en el desarrollo de la programación de GPU: la capacidad de utilizar los hilos estándar de Rust (std::thread) directamente en la GPU. Esto representa un avance crucial hacia su visión de crear una empresa de software nativa para GPU que permita a los des
El entrenamiento de modelos de lenguaje grandes (LLMs), como GPT-3 o LaMDA, es un desafío computacional enorme. Estos modelos pueden tener cientos de miles de millones de parámetros, lo que requiere una cantidad significativa de memoria y potencia de cálculo. Tradicionalmente, el entrenamiento de es
El artículo "Every GPU That Mattered" (Las GPUs que Importaron) de sheets.works presenta una herramienta interactiva que recorre la evolución de las tarjetas gráficas (GPUs) durante los últimos 30 años, desde 1994 hasta la actualidad. Su objetivo principal es ofrecer una visualización clara y compar
El artículo presenta un avance significativo en el campo de la inteligencia artificial aplicada a la biología, específicamente en la optimización de secuencias de ARN mensajero (ARNm) para diversas especies. En esencia, se ha desarrollado una herramienta de IA que permite 'entrenar' modelos de lengu
Un desarrollador ha liberado una herramienta gratuita llamada 'apfel' que permite a los usuarios de Mac con chip Apple Silicon acceder y utilizar el modelo de lenguaje (LLM) integrado que Apple ha mantenido previamente restringido. La herramienta, disponible desde el 24 de marzo de 2026, se instaló
Investigadores han descubierto dos nuevos ataques de tipo Rowhammer que permiten a un usuario malicioso obtener control de raíz en máquinas que utilizan tarjetas gráficas de alto rendimiento de Nvidia. Estos ataques explotan la creciente susceptibilidad de la memoria DRAM a los 'bit flips', donde lo
Un desarrollador ha presentado una nueva técnica para generar paisajes virtuales con apariencia de erosión, inspirada en trabajos previos de Clay John y Felix Westin (Fewes) en la plataforma Shadertoy. La técnica, desarrollada durante ocho meses, simula la apariencia de valles y crestas creadas por
La forma en que los modelos de lenguaje grandes (LLM) como ChatGPT gestionan la memoria de las conversaciones, conocida como 'KV cache', tiene un costo físico y económico significativo. Cada interacción, incluso una pregunta sencilla, se traduce en datos almacenados en la memoria de la GPU, con GPT-
Este artículo relata un proyecto personal de 25 años para rastrear el precio de los huevos a través de recibos escaneados, utilizando tecnologías de vanguardia como agentes de codificación con IA (Codex y Claude) y modelos de visión por computadora. El autor comenzó en 2001 guardando imágenes de rec
El algoritmo K-Means es una técnica fundamental en aprendizaje automático para agrupar datos similares. Tradicionalmente, se ha utilizado para tareas como organizar conjuntos de datos o preprocesar incrustaciones (embeddings), pero su aplicación en tiempo real, en sistemas online, ha sido limitada p
NVIDIA ha presentado Gluon, una extensión del lenguaje y compilador Triton diseñada para mejorar el rendimiento de las GPU. Gluon ofrece un mayor control a los desarrolladores al exponer más detalles internos del compilador, permitiendo optimizaciones más precisas y un mayor potencial de rendimiento
Un desarrollador ha presentado Horizon, una innovadora terminal para computadoras que redefine la gestión de sesiones de trabajo. Horizon, disponible para Linux, macOS y Windows, ofrece un 'lienzo infinito' donde los usuarios pueden organizar, mover y redimensionar paneles de terminal de manera flex
El 'Algoritmo Slug' es una técnica innovadora para renderizar fuentes directamente desde curvas de Bézier en la GPU, desarrollada a partir de 2016 y formalizada en un artículo científico en 2017. Su éxito radica en la capacidad de generar texto de alta calidad, sin depender de mapas de texturas prec
Un nuevo avance en gráficos 3D está revolucionando la renderización a través del uso de Campos de Distancia Firmados (SDFs). Los SDFs, una técnica matemática para definir objetos 3D, permiten combinar y manipular formas de manera sencilla, abriendo la puerta a la creación de escenas complejas genera
Este artículo explora los desafíos encontrados al intentar portar el algoritmo Flash Attention, optimizado para GPUs con el lenguaje Triton, a un TPU (Tensor Processing Unit). El objetivo era aprovechar la potencia gratuita de los TPUs ofrecidos en Colab. La experiencia reveló que la transición no f
Microsoft ha lanzado BitNet, un framework de código abierto diseñado para ejecutar modelos de lenguaje de 1 bit (LLM) de manera eficiente en CPUs y GPUs. Esta tecnología permite ejecutar modelos de lenguaje grandes, como un modelo de 100 mil millones de parámetros, en una sola CPU, alcanzando veloci
RightNow AI ha presentado AutoKernel, un agente de inteligencia artificial que automatiza la optimización de kernels de GPU, inspirándose en el trabajo de autoresearch de Andrej Karpathy. AutoKernel toma cualquier modelo PyTorch, identifica los kernels de cuello de botella, los optimiza de forma aut
La startup británica de centros de datos para inteligencia artificial, Nscale, ha recaudado 2.000 millones de dólares en una ronda de financiación Serie C que la valora en 14.600 millones de dólares, según anunció el lunes. La ronda, liderada por Aker ASA y 8090 Industries, contó con la participació
La empresa de soluciones térmicas Thermal Grizzly ha sufrido pérdidas significativas debido a un fraude en la adquisición de materias primas desde China, según reveló Roman Hartung, conocido como der8auer, en un video reciente. La compañía, buscando alternativas a la escasez y el aumento de precios
Un nuevo lenguaje de programación llamado Eyot ha sido desarrollado para simplificar el uso de GPUs y aceleradores en tareas computacionales. Creado por Steele Duncan de Cowley fornia Studios, Eyot busca eliminar la complejidad tradicional de la programación GPU, como la gestión de memoria y la comp
Un estudio reciente de pebblebed.com analizó 125.000 vulnerabilidades en el kernel de Linux para identificar patrones y áreas de mejora. Los hallazgos revelan que existen “super-revisores”, individuos que corrigen errores casi el doble de rápido que el promedio (47% más rápido), y que los bugs intro
Investigadores han desarrollado una CPU innovadora que opera completamente dentro de una GPU, eliminando la necesidad de interacción con la CPU principal del sistema. Este prototipo, denominado NeuralCPU, ejecuta instrucciones ARM64 reales y utiliza tensores de PyTorch para almacenar registros, memo
Este artículo de maderix.substack.com explora el funcionamiento interno del Neural Engine (ANE) de Apple, específicamente el del chip M4 (codename H16G), a través de una ingeniería inversa colaborativa entre un humano y un modelo de IA (Claude Opus 4.6). El objetivo principal es comprender cómo func
Un nuevo algoritmo de aprendizaje llamado SmartKNN ha sido desarrollado para mejorar el rendimiento de los métodos de vecinos más cercanos (KNN). El algoritmo, creado por Thatipamula-Jashwanth y disponible en GitHub, busca superar las limitaciones de los enfoques KNN tradicionales, como el tratamien
Este artículo de redblobgames.com explica el renderizado de fuentes utilizando Campos de Distancia Firmados (SDF, por sus siglas en inglés). Los SDFs son una técnica que permite representar formas complejas, como fuentes, como una función que devuelve la distancia más corta a la forma. Esto abre la
Un equipo de desarrolladores ha creado una implementación en C++ de los modelos de reconocimiento de voz Parakeet de Nvidia, ofreciendo una mejora significativa en la velocidad para su ejecución en dispositivos. El proyecto, alojado en GitHub, utiliza la biblioteca de tensores ligera axiom, que incl
Un desarrollador ha creado un proyecto en Rust que acelera las simulaciones de autómatas celulares utilizando shaders de GPU. El proyecto, denominado 'Cellarium', permite a los usuarios definir el comportamiento de las células utilizando un subconjunto de Rust, que luego se compila en shaders WGSL p
Una startup llamada Taalas ha lanzado un chip ASIC que ejecuta el modelo de lenguaje Llama 3.1 8B a una velocidad de inferencia de 17.000 tokens por segundo, lo que equivale a escribir aproximadamente 30 páginas A4 por segundo. La empresa afirma que su chip es 10 veces más barato en costos operativo
Este artículo explora el concepto de 'Level of Detail' (LoD), originalmente utilizado en gráficos 3D para optimizar el rendimiento renderizando modelos con menos detalle a distancia, y lo aplica al desarrollo de software. La idea central es que, al igual que en gráficos, no siempre es necesario tene
Apple está desafiando la tendencia de las grandes tecnológicas (Amazon, Microsoft, Alphabet, Meta) al no invertir masivamente en infraestructura de data centers y GPUs, una estrategia que contrasta con la apuesta por el Capex (inversión en capital) de sus competidores. Mientras estas empresas asumen
VectorWare ha anunciado un hito significativo en la programación de GPU: la capacidad de utilizar las características `async/await` de Rust directamente en la GPU. Esto representa un avance importante hacia la visión de la empresa de facilitar a los desarrolladores la creación de aplicaciones de alt
