РЕЛИЗ · CODING · #3535
Hugging Face выпускает библиотеки llama.cpp и ggml v1.0.0 и фиксирует стабильность API/ABI
Проекты llama.cpp и движок ggml выпустили версию 1.0.0, подтвердив приверженность стабильным границам API/ABI и использованию семантического версионирования для проектов ggml-org. В сообщении подчёркнута поддержка кроссплатформенного инференса с квантованием на разнообразном оборудовании, расширение backend‑ов, вложения в CI (HF Buckets и HF Jobs) и настольные приложения Llama для macOS и Windows.
КЛЮЧЕВЫЕ ТЕЗИСЫ
- Проекты llama.cpp и движок ggml выпустили версию 1.0.0, подтвердив приверженность стабильным границам API/ABI и использованию семантического версионирования для проектов ggml-org.
- В сообщении подчёркнута поддержка кроссплатформенного инференса с квантованием на разнообразном оборудовании, расширение backend‑ов, вложения в CI (HF Buckets и HF Jobs) и настольные приложения Llama для macOS и Windows.
- Версия 1.0.0 и явные правила API/ABI делают llama.cpp/ggml более надёжной платформой для разработчиков локальных и конфиденциальных приложений на LLM на разных платформах.
ПОЧЕМУ ЭТО ВАЖНО
Версия 1.0.0 и явные правила API/ABI делают llama.cpp/ggml более надёжной платформой для разработчиков локальных и конфиденциальных приложений на LLM на разных платформах.