Edge0 ha lanzado Edge0-145B, el primer modelo de inteligencia artificial de código abierto para dispositivos locales con 145.000 millones de parámetros, junto con su marco de inferencia unificado. Este sistema permite ejecutar modelos de gran escala en computadoras personales, superando las limitaciones de memoria y potencia que históricamente han restringido la capacidad de los modelos on-device. El modelo opera en portátiles compatibles, como el MacBook Pro, consumiendo un máximo de 29 GB de memoria RAM y alcanzando una velocidad de decodificación superior a 80 tokens por segundo, manteniendo un consumo eléctrico de aproximadamente 120 W.
A diferencia de los modelos de la nube, Edge0-145B elimina las comisiones por API y las restricciones de privacidad al mantener los datos localmente. Sus capacidades en programación y razonamiento son competitivas con modelos de frontera como Claude-Opus-4.6 y DeepSeek-V4-Flash-0731, obteniendo puntuaciones de 64,6 en DeepSWE 1.1 y 90,4 en GPQA-Diamond. El diseño técnico del modelo optimiza el uso de memoria mediante la compartición de matrices entre expertos esparsos y una arquitectura de carga que combina GPU, memoria del sistema y almacenamiento SSD. Esta solución permite a los desarrolladores integrar asistentes de IA complejos que pueden planificar, ejecutar y depurar código sin depender de la conectividad constante, ofreciendo una alternativa viable a los servicios en la nube para tareas agénticas.
