Run-AI-Locally es una herramienta de código abierto diseñada para permitir a los usuarios ejecutar modelos de inteligencia artificial de estilo ChatGPT de forma gratuita, offline y privada en sus propios equipos. El proyecto, verificado por última vez en octubre de 2026, se centra en la privacidad total, ya que los datos y prompts nunca salen de la máquina del usuario, eliminando la necesidad de cuentas, suscripciones o límites de uso. La herramienta funciona en Windows, macOS y Linux, y su objetivo principal es facilitar el acceso a modelos de lenguaje locales mediante la integración con Ollama, una plataforma que simplifica la gestión de estos modelos.
El repositorio incluye un script de instalación llamado script.exe, que detecta automáticamente el hardware del sistema (RAM o GPU) y recomienda el modelo de IA más adecuado para ese equipo. Por ejemplo, un sistema con 8 GB de RAM podría ejecutar Qwen3 8B o Gemma 3 4B, mientras que equipos con 64 GB de memoria pueden manejar modelos de 70B parámetros como Llama 3.3. La guía detalla las recomendaciones de modelos según la capacidad de memoria, proporcionando comandos específicos para cada configuración. En términos de rendimiento, se estima que un modelo de 14B parámetros en CPU ofrece una velocidad de 6 a 10 tokens por segundo, mientras que el uso de una GPU acelera significativamente el proceso. El proyecto fomenta la comunidad mediante la solicitud de contribuciones para mantener la lista de modelos actualizada, asegurando que la herramienta siga siendo útil a medida que la tecnología avanza.