software · 5 menciones
El desarrollador Jmaczan ha lanzado en GitHub 'tiny-vllm', un motor de inferencia de alto rendimiento para modelos de lenguaje grande (LLM) desarrollado en C++ y CUDA. Esta iniciativa se presenta como una versión más compacta y educativa de vLLM, diseñada para derivar desde cero las matemáticas y ar
El artículo "The Eternal Sloptember" plantea una crítica contundente a la adopción generalizada de agentes de IA en el desarrollo de software, argumentando que podría ser un error costoso en la historia de la informática. El autor, un desarrollador experimentado, explica que estos agentes no "progra
Se ha logrado ejecutar una NVIDIA RTX 5090 en un MacBook Air M4 mediante una configuración de eGPU externa conectada por Thunderbolt. macOS no incluye controladores para GPUs NVIDIA o AMD en Apple Silicon, por lo que el desarrollador utilzó los nuevos drivers de código abierto de tinygrad publicados
El artículo "¿Alguna vez tendré una computadora zettaflop?" explora la ambiciosa meta de poseer una computadora con una capacidad de procesamiento de un zettaflop (10^21 FLOPS), y los desafíos técnicos y económicos que implica. Para poner esto en perspectiva, un exaflop es ya una cantidad considerab
La empresa tinygrad ha recibido una financiación de 5 millones de dólares y ha lanzado 'tinybox', un potente ordenador diseñado para el aprendizaje profundo. Tinygrad, un framework de redes neuronales de rápido crecimiento, se destaca por su simplicidad y eficiencia. La nueva financiación permitirá
