WiCi One: el primer sistema local de IA con GPU inalámbrica

Fuentes: WiCi One: the first local AI system with wireless GPU

WiCi, un laboratorio de investigación de sistemas, ha presentado WiCi One, el primer dispositivo diseñado para ejecutar inteligencia artificial de frontera localmente mediante computación de GPU inalámbrica. El sistema, disponible desde 2.599 dólares, combina hardware de GPU y almacenamiento SSD para permitir que los usuarios ejecuten modelos de lenguaje de gran escala en equipos de consumo sin depender de la nube. La empresa aborda las limitaciones técnicas del despliegue local, como la latencia de red y la memoria limitada, mediante un runtime que optimiza el uso de la GPU cercana y un motor de inferencia, InferSSD, que streamea los pesos de los modelos desde el disco duro al chip gráfico. Esta arquitectura permite ejecutar modelos de 800.000 millones de parámetros en hardware de usuario final, manteniendo el control total de los datos y los modelos bajo la red local. Además, WiCi investiga la coordinación de la entrada de voz y la generación de respuestas para reducir la latencia en la interacción conversacional. El objetivo es democratizar el acceso a la IA avanzada, ofreciendo una alternativa privada y eficiente a las soluciones basadas en la nube, dirigida a hogares, estudios y entornos de trabajo que requieren privacidad y rendimiento local.