Noticias que mencionan Transformers

SOV-Transcribe-1: modelo de voz de Salesforce con 26.600 millones de parámetros

Salesforce ha lanzado SOV-Transcribe-1, un modelo de lenguaje de voz de pesos abiertos diseñado para el reconocimiento automático de voz (ASR) no en streaming. Con 26.600 millones de parámetros totales (4.600 millones activos), el sistema combina la precisión de transcripción en inglés con soporte m

Astro-weights: edición de pesos de LLMs mediante agentes y LoRA

Astro-weights es una librería de software de código abierto diseñada para realizar correcciones pequeñas y dirigidas en los pesos de modelos de lenguaje de gran escala (LLM) de código abierto. Su objetivo principal es permitir que un agente de inteligencia artificial proponga ediciones de bajo rango

IBM lanza Granite-4.1-8B con soporte para LLMON

IBM ha publicado en Hugging Face el modelo de lenguaje ibm-granite/granite-4.1-8b-llmon-preview, una variante experimental de 8.000 parámetros diseñada para procesar instrucciones mediante el formato LLMON (LLM Object Notation) en lugar de plantillas de chat convencionales. Este modelo, lanzado el 1

Guía técnica para integrar Inkling 2 Small en aplicaciones de IA

Inkling 2 Small es un modelo multimodal de propósito general que acepta entradas de texto e imagen para generar salidas de texto, diseñado para desarrolladores que construyen aplicaciones de IA, asistentes de codificación y chatbots. El modelo, lanzado con pesos abiertos, soporta el inglés y tiene c

Guía técnica para integrar LFM3-1.7B en aplicaciones locales

LiquidAI ha publicado LFM3-1.7B, un modelo de lenguaje de 1.730 millones de parámetros diseñado para agentes locales y aplicaciones especializadas. Este modelo se distingue por su arquitectura tri-híbrida y su ventana de contexto de 256.000 tokens, optimizado para funcionar en hardware de borde con

Nanbeige4.3-33B: nuevo modelo de agentes de código abierto

Nanbeige4.3-33B es un modelo de lenguaje de 33.000 millones de parámetros diseñado como el agente maestro para la serie Nanbeige4.3. Su objetivo principal es establecer una base de alto rendimiento para la destilación de capacidades agénticas avanzadas en modelos más pequeños, como el previsto Nanbe

Nuevos modelos sin atención superan a los Transformers en tareas de lenguaje

Un estudio reciente en machine learning propone una alternativa a la atención explícita en los modelos de secuencia, argumentando que esta técnica es matemáticamente opaca y poco eficiente para el razonamiento. Los autores introducen una arquitectura basada en flujos de Grassmann, que elimina la nec

XHToken lanza Spark-X2.6-4B para agentes de IA en dispositivo

XHToken ha publicado Spark-X2.6-4B, un modelo de lenguaje de 4.000 millones de parámetros diseñado específicamente para su ejecución en dispositivos locales. Esta nueva generación, que mantiene la misma arquitectura que su predecesor Spark-X2.5-4B, mejora significativamente las capacidades de codifi

InternScience libera Sage-A1.5, un modelo de 35B para investigación científica

InternScience ha publicado en Hugging Face Sage-A1.5, un modelo de lenguaje de 35 mil millones de parámetros diseñado específicamente para la resolución de problemas científicos de largo alcance. Basado en Qwen3.6 y Agents-A1, este modelo agéntico introduce capacidades de orquestación paralela, veri

IBM lanza Granite Speech 5.0 para mejorar la transcripción y traducción

IBM ha publicado tres actualizaciones de su colección de modelos de reconocimiento de voz, centradas en la precisión, la velocidad y la atribución de hablantes. El nuevo modelo, granite-speech-5.0-2b, sustituye a la versión anterior manteniendo la misma capacidad de parámetros, pero ofrece una trans

Hugging Face integra soporte nativo de TPU en PyTorch

Hugging Face ha anunciado la integración del soporte nativo de las unidades de procesamiento de tensores (TPU) en su ecosistema, permitiendo ejecutar modelos de Transformers, Diffusers y Kernels directamente en hardware de Google sin necesidad de intermediarios. Esta novedad elimina la dependencia d

Hugging Face lanza TorchNeuron para ejecutar modelos en chips Trainium

Hugging Face ha presentado TorchNeuron, un plugin para PyTorch que permite ejecutar modelos de inteligencia artificial en los chips AWS Trainium con una interfaz nativa y simplificada. Disponible desde el 20 de octubre de 2026 en beta pública, esta herramienta elimina la necesidad de usar compilador

STROT: síntesis de código con LLMs en tiempo de compilación

STROT es una herramienta de software que permite a los desarrolladores definir la lógica de clasificación, puntuación y enrutamiento de datos utilizando un modelo de lenguaje de gran escala (LLM) una sola vez, en tiempo de compilación. A diferencia de los sistemas de inferencia en tiempo de ejecució

DeepSeek-V4.1-Flash-1017: mejoras en razonamiento y código

DeepSeek-V4.1-Flash-1017 es una actualización menor del modelo DeepSeek-V4.1-Flash que introduce mejoras significativas en razonamiento, programación, tareas agénticas y benchmarks visuales. El objetivo principal de esta versión es reducir el tiempo de ejecución de las tareas y la longitud de la sal

Reflection lanza Beam, un modelo MoE de 501B parámetros abierto

Reflection ha presentado Beam, un modelo de lenguaje de gran escala (LLM) de 501.000 millones de parámetros con arquitectura Mixture of Experts (MoE) de código abierto bajo la licencia Apache 2.0. El modelo está diseñado específicamente para tareas de codificación y agentes autónomos, ofreciendo una

ASTC: compresión de contexto sin entrenamiento para agentes de LLM

Agentic Soft-Token Compression (ASTC) es una técnica de compresión de contexto diseñada para agentes de modelos de lenguaje de gran escala (LLM) con horizontes temporales largos. A diferencia de los métodos tradicionales que requieren entrenamiento adicional, ASTC opera de forma nativa dentro del mo

AutoTrust JEV-35B: modelo de decisión sin entrenamiento de robots

AutoTrust JEV-35B es un modelo de lenguaje multimodal de 35 mil millones de parámetros publicado por AutoTrust AI en Hugging Face, diseñado para tomar decisiones de tipo 'Sistema 1' en menos de medio segundo. A diferencia de otros modelos que requieren datos de robots o interacción física para su en

Baidu presenta Unlimited-OCR para el análisis de documentos largos

Baidu ha lanzado Unlimited-OCR, un modelo de inteligencia artificial diseñado para el análisis de documentos extensos y de alto horizonte. Esta herramienta, disponible en Hugging Face, permite a los desarrolladores integrar la capacidad de extracción de texto de imágenes en sus aplicaciones mediante

Humanizer: modelo local de 12B para humanizar textos de IA

Humanizer es un modelo de lenguaje de 12.000 millones de parámetros diseñado para reescribir borradores generados por inteligencia artificial, como correos electrónicos, ensayos o informes, para que lean como si fueran escritos por una persona. La herramienta se destaca por su capacidad para mantene

Guía técnica para ejecutar el modelo Xing4.0-29B-A4B-GGUF

El modelo Venastine-Research/Xing4.0-29B-A4B-GGUF, identificado por el número de paper 2512.24157, ofrece una guía integral para su despliegue local y en la nube. Este documento técnico detalla las instrucciones precisas para integrar el modelo en entornos de desarrollo mediante diversas herramienta

JEV-27B-VL lidera benchmarks de visión con 27B parámetros

El modelo autotrust/JEV-27B-VL se posiciona como el líder en la categoría de modelos de decisión de visión en el índice comunitario JEV Decision Index 0.3, actualizado en octubre de 2026. Con 27.000 millones de parámetros, supera a modelos de referencia de 397.000 millones, como Qwen3.5-397B-A17B, o

Liquid AI lanza modelos de decisión multimodales abiertos para el edge

Liquid AI ha publicado en Hugging Face dos modelos de decisión abiertos, d1-3B y d1-omni-600M, diseñados para funcionar en dispositivos de borde (edge) con capacidades multimodales. Estos modelos, basados en sus Liquid Foundation Models (LFMs), no generan tokens sino que responden en una sola pasada

EvoVLM: Búsqueda evolutiva guiada por LLM para inferencia visual

EvoVLM es un proyecto de investigación que implementa una búsqueda evolutiva multiobjetivo guiada por modelos de lenguaje grandes (LLM) para mejorar la inferencia de visión y lenguaje. A diferencia de los enfoques tradicionales que requieren el ajuste fino de pesos de modelos, EvoVLM mantiene el mod

Un LoRA pequeño corrige el sesgo de los transformers

Un estudio reciente revela que los modelos de transformers preentrenados subutilizan su profundidad arquitectónica al seguir referencias en el contexto. Los análisis indican que trece modelos base confían únicamente en 1,4 a 3,6 líneas de contexto, mientras que los bucles adicionales de preentrenami

Guía técnica para implementar el modelo multimodal Cloudflare/clef

Cloudflare/clef es un modelo de lenguaje multimodal de 27.000 millones de parámetros diseñado para la toma de decisiones estructuradas. A diferencia de los modelos de generación de texto libre, Clef procesa estados y esquemas de preguntas tipadas para devolver probabilidades para cada opción permiti

Edge0 Audio8 ASR Infinite: modelo de reconocimiento de voz en tiempo real

Edge0 Audio8 ASR Infinite es un modelo de reconocimiento de voz nativo en streaming diseñado para ofrecer latencia mínima y transcripciones de audio de longitud ilimitada. Su arquitectura hereda la estructura Voxtral Realtime y combina un Decoder basado en Qwen2.5-3B-Instruct con un sistema de caché

NVIDIA lanza Nemotron-3-Diarización para identificar hablantes en audio

NVIDIA ha publicado Nemotron-3-Diarización, un modelo de diarización de hablantes de código abierto diseñado para determinar quién habló y cuándo en audio real. Este modelo, basado en la arquitectura Sortformer, soporta la inferencia en tiempo real y en lote, gestionando hasta ocho hablantes simultá

Guía técnica para ejecutar Qwen3.8-27B en Hugging Face

El repositorio de Hugging Face para Qwen/Qwen3.8-27B ofrece una guía integral para el despliegue y uso de este modelo de lenguaje multimodal. El documento detalla las instrucciones para integrar la herramienta mediante librerías como Transformers, vLLM y SGLang, así como la configuración de entornos

Guía técnica para ejecutar MiMo-V2.6-Pro-RL en Hugging Face

La colección de Hugging Face para XiaomiMiMo/MiMo-V2.6-Pro-RL ofrece una guía integral para el despliegue y uso de este modelo de lenguaje de gran escala. El documento detalla las instrucciones para integrar el modelo mediante librerías de Python, como Transformers, y a través de entornos de inferen

Hugging Face integra soporte nativo para modelos GGUF en Transformers

La librería Transformers de Hugging Face ha incorporado soporte nativo para modelos GGUF, permitiendo cargar y servir cuantizaciones de llama.cpp directamente desde el ecosistema de Python. Esta actualización elimina la necesidad de alternar entre la potencia de llama.cpp y la comodidad del stack de

DeepSeek-V4.1-Flash sin censura: guía técnica y métricas de abliteración

El repositorio dealignai/DeepSeek-V4.1-Flash-UNCENSORED-FP8 documenta un modelo de lenguaje de 552 parámetros que ha sido modificado mediante una técnica de abliteración a nivel de pesos para eliminar sus guardrails de seguridad. Este proceso, desarrollado por el equipo de investigación de dealignai

Bluefin redefine sus capacidades como sistema de efectos

Bluefin se presenta principalmente como un sistema de capacidades y, en segundo lugar, como un sistema de efectos para Haskell. Esta librería, publicada por primera vez a principios de 2024, se inspira en effectful de Andrzej Rybczak y funciona como una envoltura ligera sobre el tipo IO de Haskell.

Qwen3.8-27B-FP8: el nuevo modelo multimodal de código abierto de Alibaba

Alibaba ha publicado en Hugging Face los pesos cuantizados en FP8 de Qwen3.8-27B, un modelo denso de lenguaje causal con codificador de visión integrado, sucesor de las series Qwen3.5 y Qwen3.6. La versión cuenta con 27.000 millones de parámetros, 64 capas, una dimensión oculta de 5.120 y un vocabul

Qwen publica en open source los pesos cuantizados FP8 de Qwen3.8-2.4T-A95B

El repositorio Qwen/Qwen3.8-2.4T-A95B-FP8 en Hugging Face distribuye los pesos cuantizados en FP8 de un modelo MoE de 2,4 billones de parámetros con 95.000 millones activos, pensado para ejecutarse en vLLM, SGLang, TokenSpeed o mediante Docker. El cuantificado utiliza granularidad fina con bloques d

El backend de modelado de transformers en vLLM alcanza velocidad nativa

Hugging Face ha anunciado una actualización del backend de modelado de transformers dentro de vLLM que permite ejecutar los modelos de Hugging Face a la misma velocidad —o superior— que las implementaciones nativas escritas a mano para vLLM, sin necesidad de portar el código. La mejora se valida con

Cómo los modelos de lenguaje predicen la siguiente palabra en tiempo real

Los transformers autorregresivos son la arquitectura fundamental que permite a los modelos de lenguaje grande (LLMs) generar texto token a token, prediciendo cada siguiente palabra basándose en todo lo previamente generado. Este proceso se divide en dos fases: prefill (preparación) y decode (generac

Nueva herramienta encuentra el mejor LLM para tu hardware

El desarrollador Andyyyy64 ha publicado en GitHub la herramienta 'whichllm', diseñada para ayudar a los usuarios a encontrar el modelo de lenguaje grande (LLM) más adecuado para su hardware específico. La aplicación detecta automáticamente las características del sistema (GPU, CPU, RAM) y ordena los

Modelos de lenguaje: técnica reduce tamaño sin perder calidad

Investigadores han desarrollado una nueva técnica para comprimir incrustaciones (embeddings) de modelos de lenguaje, mejorando significativamente la eficiencia sin sacrificar la calidad de la recuperación de información. La técnica, denominada 'poly-autoencoder', combina un codificador PCA (Principa

Investigación revela eficiencia oculta en Transformers

Este artículo de investigación, titulado "Transformers son inherentemente concisos", explora una propiedad fundamental y sorprendente de los modelos Transformer, la arquitectura que impulsa la mayoría de los modelos de lenguaje grandes (LLMs) como ChatGPT. Tradicionalmente, los Transformers se han c

Dirac: código abierto supera a Google en codificación

Un nuevo agente de codificación de código abierto llamado Dirac ha superado a Google y a sus competidores de código cerrado en las pruebas de rendimiento. Dirac alcanzó una puntuación del 65.2% en el *Terminal-Bench-2 leaderboard*, superando la línea de base oficial de Google (47.6%) y al agente de

Aprendizaje profundo: separan modelo y cálculo para más eficiencia

Investigadores de Facebook AI (Meta) han publicado dos nuevos métodos que separan el tamaño del modelo y la potencia computacional en el aprendizaje profundo, desafiando la práctica común de considerarlos como una sola entidad. El primer método, basado en capas de hash, permite aumentar el tamaño de

Modelos de lenguaje: hallan patrones numéricos comunes

Este artículo de investigación, titulado "Evolución Convergente: Cómo Diferentes Modelos de Lenguaje Aprenden Representaciones Numéricas Similares", explora un fenómeno fascinante en el campo del procesamiento del lenguaje natural: la forma en que distintos modelos de lenguaje, incluso aquellos con

rocm y strix halo: optimiza la memoria de tu gpu

Un usuario ha compartido su experiencia al configurar ROCm y Strix Halo para optimizar el uso de memoria en un sistema con 128GB de RAM compartida entre la CPU y la GPU. El proceso, realizado en Ubuntu 24.04 LTS, incluyó una actualización del BIOS (necesaria para la detección de la GPU) y ajustes en

LLMs de código abierto: incompatibilidad dificulta su uso

El uso de modelos de lenguaje grandes (LLM) de código abierto se enfrenta a un desafío significativo: la incompatibilidad en los formatos de llamada de herramientas. Mientras que los modelos cerrados como los de OpenAI ofrecen una integración fluida, los modelos de código abierto requieren que los d

IA se auto-optimiza y supera expectativas

MiniMax ha desarrollado M2.7, un modelo de inteligencia artificial que se ha mejorado a sí mismo de forma autónoma, logrando resultados impresionantes en pruebas de referencia. En un proceso sin intervención humana directa, el modelo analizó sus propios fallos, modificó su código y optimizó su rendi

IA multimodal en Mac: nueva herramienta facilita el ajuste

Un nuevo toolkit llamado 'gemma-tuner-multimodal' permite a los usuarios afinar modelos Gemma de Google para tareas de inteligencia artificial multimodal (texto, imágenes y audio) directamente en Macs con Apple Silicon. La herramienta, desarrollada por Mattmireles y disponible en GitHub, elimina la

IA recuerda: Nuevo sistema mejora la memoria de los agentes

Un nuevo sistema de memoria para agentes de IA llamado Hippo-Memory ha sido lanzado, abordando la limitación de los agentes actuales que olvidan el contexto entre sesiones. Hippo-Memory permite a los agentes recordar información de manera persistente y portátil, funcionando como una capa de memoria

AtnRes: Nueva técnica optimiza modelos de lenguaje

Attention Residuals (AttnRes) es una innovadora técnica que optimiza las conexiones residuales en los Transformers, una arquitectura fundamental en modelos de lenguaje grandes (LLMs) como GPT. Tradicionalmente, las conexiones residuales simplemente suman la salida de cada capa con una ponderación u

Modelos de lenguaje: ¿datos sintéticos para el futuro?

El entrenamiento de modelos de lenguaje (LLM) está enfrentando un problema creciente: la necesidad de cantidades exponencialmente mayores de datos para seguir mejorando. La disponibilidad de texto natural de alta calidad se proyecta que se agotará en 2028, y el texto de internet está contaminado con

LLMs ejecutan programas: IA más rápida y potente

Investigadores de Percepta han demostrado la capacidad de ejecutar programas directamente dentro de modelos de lenguaje grandes (LLMs), como los transformers, logrando una velocidad de inferencia exponencialmente más rápida. El avance, anunciado el 11 de marzo de 2026, abre nuevas posibilidades para

Entrenar IA de código abierto: desafíos inesperados

Un ingeniero de Workshop Labs, Addie Foote, relata los desafíos encontrados al intentar entrenar y servir modelos de lenguaje grandes con pesos abiertos, específicamente el modelo Kimi-K2-Thinking de Moonshot AI. El objetivo era post-entrenar el modelo, que cuenta con 1 billón de parámetros y está c

IA desata 'máquinas de brecha': ¿quién las controla?

El artículo explora una nueva y preocupante tendencia en la seguridad informática: la proliferación de lo que el autor denomina "máquinas de brecha de datos" impulsadas por agentes de IA. Utiliza una analogía ingeniosa: los agentes de IA son como Drácula, entidades poderosas y con sus propios objeti

Sarvam AI libera modelos de lenguaje hechos en India

Sarvam AI ha lanzado de forma abierta los modelos de lenguaje Sarvam 30B y Sarvam 105B, diseñados para razonamiento y optimizados para el despliegue eficiente en una amplia gama de hardware, desde GPUs de alto rendimiento hasta dispositivos personales. El entrenamiento se llevó a cabo íntegramente e

Unsloth agiliza el ajuste de modelos Qwen3.5

Unsloth ha simplificado el proceso de ajuste fino (fine-tuning) de los modelos de lenguaje grandes Qwen3.5, una familia de modelos desarrollada por Alibaba. Ahora, usuarios pueden ajustar versiones de 0.8B a 122B de Qwen3.5, incluyendo soporte para ajuste fino tanto de texto como de visión. Unsloth

Ocr sin servidor: 40 líneas de código lo hacen posible

Un desarrollador ha creado un sistema de Reconocimiento Óptico de Caracteres (OCR) sin servidor utilizando un modelo de código abierto, DeepSeek OCR, en tan solo 40 líneas de código. La solución, implementada a través de la plataforma Modal, permite procesar documentos PDF, incluso aquellos con nota

Alibaba crea RynnBrain: IA que 've' y comprende el mundo

RynnBrain es un modelo de base encarnado (embodied foundation model) desarrollado por Alibaba Damo Academy, diseñado para comprender e interactuar con el mundo físico de una manera más profunda que los modelos de lenguaje tradicionales. Imagina un modelo que no solo entiende el lenguaje, sino que ta

GLM-OCR: Nuevo OCR de Código Abierto Lidera en Precisión

Investigadores han desarrollado GLM-OCR, un nuevo modelo de código abierto para el reconocimiento óptico de caracteres (OCR) que alcanza un rendimiento de vanguardia en la comprensión de documentos complejos. Basado en la arquitectura GLM-V encoder-decoder, GLM-OCR incorpora técnicas innovadoras com