Mistral AI SAS es una startup francesa de inteligencia artificial (IA), con sede en París. Se especializa en modelos de lenguaje grande de pesos abiertos.

Ver en Wikipedia

Noticias que mencionan Mistral

Estudio revela mayor consenso en modelos de IA chinos frente a occidentales

Un análisis reciente de una herramienta web que compara las respuestas de doce modelos de inteligencia artificial revela que los modelos chinos tienden a alinear sus opiniones con el consenso generalizado, a diferencia de los modelos estadounidenses y europeos. El experimento, basado en una aplicaci

Benchmark de eficiencia energética de LLMs en hardware de consumo

La implementación local de modelos de lenguaje grandes (LLM) ha ganado relevancia por las preocupaciones de privacidad y la necesidad de inferencia on-premise, aunque los costos energéticos en hardware de consumo siguen siendo poco caracterizados. Este artículo presenta un benchmark reproducible de

Guía técnica para ejecutar modelos de IA locales en Mac

Cualquier Mac con chip Apple Silicon puede ejecutar modelos de lenguaje de gran escala (LLM) de forma local, una capacidad que a menudo pasa desapercibida. La viabilidad técnica depende principalmente de la memoria unificada, que permite a la CPU y la GPU compartir el mismo pool de RAM, a diferencia

Cisco Talos presenta CAIRN para rastrear malware guiado por IA

Investigadores de Cisco Talos han lanzado CAIRN, un marco de trabajo de código abierto diseñado para clasificar y analizar malware integrado con inteligencia artificial. La herramienta permite identificar patrones únicos en el código malicioso que indican la dependencia de modelos de lenguaje grande

NPC-Forge: un asistente de terminal sin embeddings, machine learning ni LLMs

El desarrollador italiano Gio Blu, conocido por el protocolo de red PJON, presenta NPC-Forge, un asistente para terminal construido desde cero con una restricción deliberada: no utiliza embeddings, ni machine learning ni modelos de lenguaje grandes. El proyecto nació como respuesta al gasto mensual

WebLLM: motor de inferencia de LLM en el navegador con aceleración WebGPU

WebLLM es un motor de inferencia de modelos de lenguaje de gran tamaño que ejecuta la carga de trabajo directamente en el navegador web, sin necesidad de servidor, gracias a la aceleración por hardware mediante WebGPU. El proyecto, publicado como repositorio de código abierto por MLC AI, ofrece una

Ferrox: un motor de inferencia en Rust que rivaliza con llama.cpp

Ferrox, un motor de inferencia escrito íntegramente en Rust, ejecuta modelos de lenguaje abiertos en local —tanto densos como Mixture-of-Experts— sobre CPU, Apple Metal o CUDA, sin recurrir a enlaces con llama.cpp ni con ggml. Cada kernel, cargador y mecanismo de planificación se ha implementado des

AirLLM: cómo ejecutar modelos de 70B en una sola GPU de 4 GB

AirLLM es una biblioteca de Python de código abierto que reduce drásticamente el consumo de memoria durante la inferencia de modelos de lenguaje de gran tamaño, permitiendo ejecutar un modelo de 70B parámetros en una única GPU con apenas 4 GB de VRAM, sin recurrir a cuantización, destilación ni poda

LLM2HUMAN Clinic: la parodia que ofrece convertir modelos de IA en humanos

LLM2HUMAN Clinic es una página de humor al estilo de las teletiendas de los años noventa que satiriza el fenómeno de los grandes modelos de lenguaje. Bajo el pretexto de una clínica ambulatoria, el sitio anuncia un procedimiento ficticio que 'convierte' los pesos de un LLM en 'wetware', es decir, en

Anatomía de un LLM moderno: de los tokens a la predicción

Los modelos de lenguaje de gran tamaño (LLM) se construyen apilando bloques transformer una y otra vez, por lo que entender la maquinaria del transformer es la base para comprender su funcionamiento. Esta guía recorre los componentes esenciales de un LLM moderno sin profundizar en las matemáticas, c

IA recuerda: Stash crea memoria persistente para agentes

Stash, una nueva capa de memoria persistente para agentes de IA, ha sido presentada por Mohamed Al-Ashaal. La herramienta busca resolver el problema de que los agentes de IA, como ChatGPT y Claude, no retienen información entre sesiones, obligando a los usuarios a repetir constantemente la misma inf

SwiftLM: LLMs nativos y rápidos en Apple Silicon

Un equipo de desarrolladores ha lanzado SwiftLM, un servidor de inferencia nativo para dispositivos Apple Silicon que ofrece compatibilidad con la API de OpenAI. Esta herramienta, de código abierto, elimina la necesidad de un entorno de ejecución de Python y el Global Interpreter Lock (GIL), lo que

Claude más eficiente: herramienta reduce el tamaño de respuestas

Un desarrollador ha creado una herramienta, disponible en GitHub, que reduce significativamente la verbosidad de las respuestas de Claude, el modelo de lenguaje de Anthropic, en aproximadamente un 63% sin necesidad de modificar el código existente. La herramienta, implementada a través de un archivo

ZSE: Motor optimiza LLMs y reduce el uso de memoria

Un nuevo motor de inferencia para modelos de lenguaje grandes (LLM) llamado ZSE ha sido desarrollado para reducir drásticamente los requisitos de memoria, según un anuncio reciente en GitHub. Creado por Zyora-Dev, ZSE permite ejecutar modelos de lenguaje de gran tamaño con una huella de memoria sign

IA en Postgres: Nuevo Proyecto Integra Agentes Directamente

Un proyecto de código abierto llamado pgclaw permite integrar agentes de inteligencia artificial directamente en bases de datos PostgreSQL. Esta extensión, disponible en GitHub, introduce un nuevo tipo de dato 'claw' que permite almacenar agentes de IA (ya sean modelos de lenguaje simples o agentes

Tambo 1.0: UI Generativas Simplificadas para React

Tambo AI ha lanzado la versión 1.0 de su toolkit de código abierto para React, diseñado para facilitar la creación de interfaces de usuario generativas. Tambo permite a los desarrolladores construir aplicaciones que se adaptan a los usuarios, utilizando agentes que renderizan componentes de UI dinám

Reconocimiento de Voz Directo en el Navegador: ¡Sin Servidor!

Desarrolladores han logrado ejecutar un modelo de reconocimiento de voz de Mistral AI, Voxtral Mini 4B Realtime, directamente en el navegador web, eliminando la necesidad de un servidor externo. Esta hazaña, impulsada por Rust y el framework Burn, permite la transcripción de audio en tiempo real uti