Tech Meridian ← К СУЩНОСТЯМ
PROМОЙ MERIDIAN EN

КОМПАНИЯ · ENTITY #1725

CUTLASS

Хронология связанных событий, источники и контекст из новостной базы.

ХРОНОЛОГИЯ СОБЫТИЙ

2

CODING · 1 ИСТОЧН. · InfoQ AI, ML & Data Engineering

Выпущен TornadoVM 7.3 с гибридным CUDA API и jitLLM v2.0

TornadoVM 7.3, открытая фреймворк для GPU‑ускорения Java, заменяет JNI на FFM API, убирает зависимость от JVMCI и унифицирует получение метаданных компилятора через reflection/ASM/Unsafe. Релиз усиливает интеграцию с Nvidia (оптимизированный CUDA‑бекенд с cuTile/TileContext и прямыми вызовами cuBLAS/CUTLASS), добавляет поддержку Apple MXL и мульти‑GPU, а также включает jitLLM v2.0 — Java‑движок инференса в одном JAR; оба проекта коммерциализируются через Beestream.ai.

6.0

RESEARCH · 1 ИСТОЧН. · Google Research

Google Research описывает программные оптимизации смешанных входных матричных умножений для NVIDIA Ampere (CUTLASS)

В блоге Google Research (автор — Маниш Гупта) описаны программные приёмы для реализации смешанных входных матричных умножений (например, входы F16 × веса U8) на тензорных ядрах NVIDIA Ampere через преобразование типов данных и согласование макета; решения опубликованы в репозитории NVIDIA/CUTLASS и, по заявлению авторов, добавляют минимальные накладные расходы и близки к пиковой аппаратной производительности. Работа ориентирована на ресурсоёмкие LLM‑нагрузки и поддерживает схемы квантования только весов для уменьшения объёма памяти модели.

7.0