Tech Meridian ← К СУЩНОСТЯМ
PROМОЙ MERIDIAN EN

КОМПАНИЯ · ENTITY #6222

Metal

Хронология связанных событий, источники и контекст из новостной базы.

ХРОНОЛОГИЯ СОБЫТИЙ

4

CODING · 1 ИСТОЧН. · InfoQ AI, ML & Data Engineering

Google выпустила LiteRT Tensor API для создания и оптимизации on-device ML на C++

Google представила LiteRT Tensor API — лёгкий C++ API, позволяющий разработчикам пооперационно формировать графы вычислений для выполнения на устройствах (CPU, GPU, NPU) с возможностями прямой загрузки весов (.safetensors), нулевого копирования буферов и совместимости с агентами для генерации кода. Google показала пример с SAM 2 для сегментации и трекинга и привела кроссплатформенные бенчмарки (например, ~1.5× быстрее Apple MLX на MacBook Pro в одном тесте), а также заявила о планах по добавлению NPU-ориентированных операций и автоматической квантизации полного графа.

7.0

COMPANIES · 1 ИСТОЧН. · InfoQ AI, ML & Data Engineering

Google открыла исходники ML Drift — GPU-движок для локального AI-инференса

Google представила ML Drift — кросс-платформенный GPU-движок с открытым исходным кодом (Apache 2.0) для локального AI-инференса, абстрагирующий OpenGL ES, OpenCL, Metal и WebGPU. ML Drift — ядро LiteRT с едиными шейдерами через виртуализацию тензоров, поддержкой 5D-тензоров и аппаратными оптимизациями для Arm, Intel и Qualcomm; компания заявляет о замене устаревшего делегата TensorFlow Lite и приводит бенчмарки и ускорения в Chrome, YouTube Shorts, Photos, Adobe и Snapchat.

8.0

CODING · 1 ИСТОЧН. · Hugging Face

PyTorch 2.15 добавляет FP8, ускоренную декодировку LLM и новые Metal‑ядра MPS для Mac

В PyTorch 2.15 (с вкладом Hugging Face) улучшен бэкенд MPS для Apple Silicon: добавлена поддержка torch.float8_e4m3fn (FP8) с F.scaled_mm, ускорены одиночные линейные операции и grouped matmul — декодировка MoE стала в 5–6.5× быстрее (например, Qwen3.6‑35B‑A3B с 9.4→61.3 ток/с на M3 Ultra), ускорен softmax примерно в 8×, а новые Metal‑ядра значительно снизили память драйвера при декодировании видео (Wan2.2) с ~270 ГиБ до ~8 ГиБ. Требования обновлены до macOS 15+ и Python 3.11+; в 2.16 планируются новые миграции MPSGraph→Metal.

7.0

MODELS · 1 ИСТОЧН. · Hugging Face

Transformers добавляет поддержку GGUF (кванты llama.cpp) в main

Библиотека transformers от Hugging Face (ветка main) теперь может загружать и запускать квантизованные контрольные точки в формате GGUF с использованием ядер llama.cpp/ggml, с упором на эффективный локальный вывод (первоначально оптимизировано для Apple Silicon и моделей Qwen3.5). Интеграция также позволяет обслуживать GGUF-чекпоинты через transformers-serve и при отсутствии совместимых ядер откатывается к де-квантизации.

7.0