braindead-local-intelligence es un proyecto de software diseñado para facilitar la experimentación con inteligencia artificial local en computadoras personales. La herramienta resuelve la complejidad de la configuración de modelos de lenguaje de gran escala (LLM) y generación de imágenes al encapsular los servicios en contenedores gestionados por podman, eliminando la necesidad de instalar componentes individuales o seleccionar manualmente entre miles de archivos disponibles.
El sistema opera mediante un servidor compatible con la API de OpenAI, un servidor de generación de imágenes, SearXNG para búsquedas web y Open WebUI como interfaz web unificada. Una de sus características técnicas destacadas es la gestión eficiente de la memoria de la GPU: solo se carga un modelo en la memoria RAM a la vez, liberando los recursos cuando no hay solicitudes activas. Esto permite a usuarios con hardware modesto probar modelos de 35 mil millones de parámetros, como Qwen3.6 35B-A3B, que requieren aproximadamente 12 GB de VRAM y 32 GB de RAM, utilizando tarjetas gráficas AMD como la Radeon RX 6700 XT.
La instalación requiere un sistema Linux con podman 5.0 o superior en modo rootless, y el usuario debe pertenecer a los grupos render y video para acceder a la GPU. El proyecto ofrece una lista de modelos preconfigurados para diferentes necesidades, permitiendo cambiar entre modelos de texto e imagen mediante la copia de un bloque de configuración. Aunque el rendimiento es lento y el consumo energético significativo, la herramienta ofrece una alternativa viable para tareas de filtrado de spam, integración en pipelines de CI/CD o experimentación con IA local, manteniendo los datos de búsqueda web fuera del dispositivo.