Tim Dettmers, profesor de la Universidad de Cornell, presenta en la semana de código abierto de su laboratorio un sistema de investigación autónoma que ejecuta modelos de frontera en hardware local, desafiando la narrativa de que la IA avanzada requiere infraestructura de GPU masiva. El sistema, desarrollado por su equipo, permite ejecutar modelos como Qwen 3.8 Flash Next (125 mil millones de parámetros) en una única GPU de 24 GB, utilizando técnicas de cuantización que reducen el uso de memoria a un décimo del estándar, permitiendo una inferencia rápida y eficiente en equipos de escritorio o portátiles.
La herramienta central es un 'harness' para agentes que optimiza automáticamente los kernels de inferencia mediante aprendizaje por refuerzo, eliminando la necesidad de intervención humana constante. Dettmers destaca que la unidad de investigación ha evolucionado del artículo individual al ecosistema coherente, donde la accesibilidad técnica es clave. El sistema ha demostrado capacidad para generar resultados de investigación en bioinformática en menos de dos horas, superando en precisión a sistemas de investigación autónoma de laboratorios de frontera como Sakana AI y Google. Este enfoque busca democratizar la investigación de IA, permitiendo que los laboratorios académicos con recursos limitados compitan en innovación mediante la optimización del software y la infraestructura local, en lugar de depender exclusivamente de la potencia bruta de hardware.