РЕЛИЗ · CODING · #2305
Выпущен TornadoVM 7.3 с гибридным CUDA API и jitLLM v2.0
TornadoVM 7.3, открытая фреймворк для GPU‑ускорения Java, заменяет JNI на FFM API, убирает зависимость от JVMCI и унифицирует получение метаданных компилятора через reflection/ASM/Unsafe. Релиз усиливает интеграцию с Nvidia (оптимизированный CUDA‑бекенд с cuTile/TileContext и прямыми вызовами cuBLAS/CUTLASS), добавляет поддержку Apple MXL и мульти‑GPU, а также включает jitLLM v2.0 — Java‑движок инференса в одном JAR; оба проекта коммерциализируются через Beestream.ai.
КЛЮЧЕВЫЕ ТЕЗИСЫ
- TornadoVM 7.3, открытая фреймворк для GPU‑ускорения Java, заменяет JNI на FFM API, убирает зависимость от JVMCI и унифицирует получение метаданных компилятора через reflection/ASM/Unsafe.
- Релиз усиливает интеграцию с Nvidia (оптимизированный CUDA‑бекенд с cuTile/TileContext и прямыми вызовами cuBLAS/CUTLASS), добавляет поддержку Apple MXL и мульти‑GPU, а также включает jitLLM v2.0 — Java‑движок инференса в одном JAR; оба проекта коммерциализируются через Beestream.ai.
- Релиз упрощает доступ Java‑приложений к ускорителям и специализированным библиотекам вендоров и добавляет Java‑движок инференса (jitLLM v2.0), уменьшая барьеры для запуска ML/LLM на JVM.
ПОЧЕМУ ЭТО ВАЖНО
Релиз упрощает доступ Java‑приложений к ускорителям и специализированным библиотекам вендоров и добавляет Java‑движок инференса (jitLLM v2.0), уменьшая барьеры для запуска ML/LLM на JVM.