TornadoVM, el marco de programación heterogénea para Java, ha lanzado su versión 7.3, una actualización significativa que mejora la integración con GPUs de Nvidia mediante un backend CUDA optimizado. Esta versión elimina dependencias experimentales como la API JNI y el JVM Compiler Interface (JVMCI), adoptando en su lugar la API Foreign Function & Memory (FFM) para garantizar compatibilidad uniforme con las distribuciones JDK 21, 25, 26 y 27. El objetivo es permitir a los desarrolladores escribir código Java una vez y ejecutarlo en cualquier hardware, desde laptops locales hasta servidores con GPUs Nvidia, facilitando la aceleración de cargas de trabajo de machine learning y computación en la nube.
La nueva versión introduce la capacidad de ejecutar directamente librerías CUDA como cuBLAS y CUTLASS desde Java, permitiendo a los usuarios alternar entre kernels generados por JIT y llamadas a librerías nativas según sus necesidades de rendimiento y portabilidad. Además, se ha añadido soporte para ejecución multi-GPU y se ha profundizado la integración con el ecosistema de Nvidia, incluyendo el modelo de programación cuTile. TornadoVM está diseñado para offload cálculos paralelos de datos, como bucles sin dependencias, hacia aceleradores de hardware. El proyecto también ha presentado jitLLM v2.0, un motor de inferencia de IA para Java que compite en rendimiento con llama.cpp y Ollama, disponible como un único archivo JAR. Tanto TornadoVM como jitLLM están siendo comercializados por Beestream.ai, una spin-off fundada por el equipo de TornadoVM.