Tech Meridian ← К СУЩНОСТЯМ
PROМОЙ MERIDIAN EN

ТЕМА · ENTITY #6216

ggml

Хронология связанных событий, источники и контекст из новостной базы.

ХРОНОЛОГИЯ СОБЫТИЙ

2

CODING · 1 ИСТОЧН. · Hugging Face

Hugging Face выпускает библиотеки llama.cpp и ggml v1.0.0 и фиксирует стабильность API/ABI

Проекты llama.cpp и движок ggml выпустили версию 1.0.0, подтвердив приверженность стабильным границам API/ABI и использованию семантического версионирования для проектов ggml-org. В сообщении подчёркнута поддержка кроссплатформенного инференса с квантованием на разнообразном оборудовании, расширение backend‑ов, вложения в CI (HF Buckets и HF Jobs) и настольные приложения Llama для macOS и Windows.

7.0

MODELS · 1 ИСТОЧН. · Hugging Face

Transformers добавляет поддержку GGUF (кванты llama.cpp) в main

Библиотека transformers от Hugging Face (ветка main) теперь может загружать и запускать квантизованные контрольные точки в формате GGUF с использованием ядер llama.cpp/ggml, с упором на эффективный локальный вывод (первоначально оптимизировано для Apple Silicon и моделей Qwen3.5). Интеграция также позволяет обслуживать GGUF-чекпоинты через transformers-serve и при отсутствии совместимых ядер откатывается к де-квантизации.

7.0