PrismML ha anunciado Bonsai 27B, un modelo multimodal de 27.000 millones de parámetros basado en Qwen3.6 27B, presentado como el primero de su categoría capaz de ejecutarse en un teléfono. La compañía ofrece dos variantes: la ternaria, de 5,9 GB, orientada a calidad y pensada para portátiles, y la de 1 bit, de 3,9 GB, que cabe en la memoria disponible de un iPhone 17 Pro (unos 6 GB) junto a la caché KV y las activaciones. Ambas soportan razonamiento, llamadas a herramientas, visión y bucles agenticos, y se distribuyen bajo licencia Apache 2.0.
Según los datos de la compañía, en una suite de 15 pruebas la variante ternaria conserva el 95% del rendimiento del modelo en precisión completa y la de 1 bit el 90%, con las capacidades de matemáticas, código y uso de herramientas prácticamente intactas. Las versiones llegan a 163 tokens por segundo en 1 bit y 134 en ternaria sobre una NVIDIA RTX 5090, y a 87 y 58 tokens por segundo, respectivamente, en un Apple M5 Max.
PrismML defiende que ejecutar este tipo de modelos en local reduce el coste marginal y mantiene los datos en el dispositivo, lo que habilita agentes persistentes, asistentes offline y arquitecturas híbridas que reservan el cloud para los pasos más complejos. La empresa, fundada por exinvestigadores de Caltech con apoyo de Khosla Ventures, Cerberus, Google y Samsung, también ofrece una API de previsualización gratuita temporal para desarrolladores.