РЕЛИЗ · COMPANIES · #2537
Google открыла исходники ML Drift — GPU-движок для локального AI-инференса
Google представила ML Drift — кросс-платформенный GPU-движок с открытым исходным кодом (Apache 2.0) для локального AI-инференса, абстрагирующий OpenGL ES, OpenCL, Metal и WebGPU. ML Drift — ядро LiteRT с едиными шейдерами через виртуализацию тензоров, поддержкой 5D-тензоров и аппаратными оптимизациями для Arm, Intel и Qualcomm; компания заявляет о замене устаревшего делегата TensorFlow Lite и приводит бенчмарки и ускорения в Chrome, YouTube Shorts, Photos, Adobe и Snapchat.
КЛЮЧЕВЫЕ ТЕЗИСЫ
- Google представила ML Drift — кросс-платформенный GPU-движок с открытым исходным кодом (Apache 2.0) для локального AI-инференса, абстрагирующий OpenGL ES, OpenCL, Metal и WebGPU.
- ML Drift — ядро LiteRT с едиными шейдерами через виртуализацию тензоров, поддержкой 5D-тензоров и аппаратными оптимизациями для Arm, Intel и Qualcomm; компания заявляет о замене устаревшего делегата TensorFlow Lite и приводит бенчмарки и ускорения в Chrome, YouTube Shorts, Photos, Adobe и Snapchat.
- Это упрощает доступ к различным GPU, повышает переносимость и производительность локального AI, облегчая переход от устаревшего делегата TFLite и расширяя возможности использования моделей на устройствах.
БРИФ ДЛЯ РЕШЕНИЙ
УВЕРЕННОСТЬ
ЧТО ИЗМЕНИЛОСЬ
Google опубликовала ML Drift как кроссплатформенный GPU-движок с открытым исходным кодом (Apache 2.0) для локального AI/ML-инференса, абстрагирующий низкоуровневые графические API (OpenGL ES, OpenCL, Metal, WebGPU) и являющийся ядром LiteRT.
ПОЧЕМУ СЕЙЧАС
ML Drift упрощает работу с разнородными GPU на устройствах и вводит технические возможности (виртуализация тензоров/унифицированные шейдеры, расширяемые кастом-опы, 5D-тензоры, оптимизации под конкретное железо), чтобы повысить переносимость и эффективность инференса. Выпуск коррелирует с отраслевой тенденцией к открытой публикации бекендов аппаратного ускорения (например, TorchTPU на конференции PyTorch), что увеличивает спрос на кроссплатформенные нативные рантаймы.
КОГО ЗАТРАГИВАЕТ
Разработчики приложений и решений для локального ML (включая проекты на базе LiteRT), производители GPU/разработчики драйверов для Arm/Intel/Qualcomm, а также приложения, уже использующие on-device стеки Google (по сообщениям Google — Chrome, YouTube Shorts, Photos и Meet).
ПОДТВЕРЖДЕНО
Ниже — только утверждения, явно приведённые в поставленных источниках: - ML Drift выпущен как open-source под лицензией Apache 2.0. - ML Drift — кроссплатформенный GPU-движок для локального AI/ML-инференса, абстрагирующий OpenGL ES, OpenCL, Metal и WebGPU. - ML Drift является ядром GPU-ускорения, которое питает LiteRT. - Описанные технические возможности: унифицированные шейдеры через виртуализацию тензоров, расширяемые кастом-опы и поддержка пятиразмерных тензоров. - ML Drift содержит аппаратно-специфические оптимизации для GPU от Arm, Intel и Qualcomm. - Расширена поддержка десктопа на Windows и Linux через Dawn (реализация WebGPU в Chromium); на macOS сохранён нативный Metal-бэкэнд. - Google провёл бенчмарки ML Drift с моделями Gemma на рабочей станции для разработчиков и сообщил о 12% меньшем объёме используемой памяти по сравнению с другими фреймворками, включая llama.cpp и MLX LM. - По заявлению Google, ML Drift уже работает на миллионах устройств в приложениях вроде Chrome, YouTube Shorts, Photos и Meet. - Отчётные показатели для приложений: в YouTube Shorts — до 40% снижения средней задержки кадров при сегментации на Android и iOS; в Google Photos — ускорение конвейеров вычислительной фотографии и сегментации до двух секунд. - Отдельно: Google и Meta открыли исходники TorchTPU (нативный бекэнд PyTorch для TPU) на конференции PyTorch 2026, что отражает отраслевую тенденцию публичных бекендов для аппаратного ускорения.
НЕОПРЕДЕЛЁННОСТЬ
Отсутствующие или неоднозначные моменты в предоставленных выдержках (помечены): - Масштаб/сроки замены: в источниках говорится об улучшениях по сравнению с устаревшим делегатом TensorFlow Lite GPU, но нет явных данных о том, что ML Drift полностью заменяет этот делегат на всех платформах, или о сроках такой замены. (отсутствует) - Независимая проверка: показатели по производительности и памяти — это бенчмарки Google на рабочей станции разработчика; в выдержках нет независимой валидации на потребительских/edge-устройствах. (отсутствует) - Масштаб развертываний: Google утверждает, что ML Drift уже работает на миллионах устройств через ряд приложений, но в выдержках нет данных о внедрении у сторонних разработчиков, уровнях принятия у OEM/драйверов или распределении по ОС/регионам. (отсутствует) - Неполные заявления: в фрагменте присутствует обрывочное утверждение о показателях для Adobe-приложений; полная формулировка и контекст отсутствуют. (неоднозначно/отсутствует) - Совместимость/миграция: в выдержках не описаны детали совместимости с существующими моделями TFLite и объём работ по миграции (требуются ли изменения кода и т.д.). (отсутствует)
ЧТО ОТСЛЕЖИВАТЬ
Конкретные наблюдаемые сигналы для мониторинга (основано на выдержках): - Активность в официальном репозитории ML Drift: публичные релизы, частота коммитов, заметки к релизам и распространение под Apache 2.0. - Независимые бенчмарки, сравнивающие ML Drift с делегатом TFLite GPU, llama.cpp, MLX LM и другими рантаймами на потребительских/edge-устройствах. - Анонсы или руководства по интеграции от крупных приложений/SDK и сторонних разработчиков (например, дальнейшие заявления от Chrome/YouTube/Photos, Adobe, Snapchat) о расширении внедрения за пределами утверждений Google. - Сигналы поддержки платформ: обновления Dawn/WebGPU, улучшения Metal-бэкэнда или заметки драйверов GPU от вендоров, ссылающиеся на оптимизации ML Drift для Arm/Intel/Qualcomm. - Отраслевые сигналы: появление дополнительных открытых бекендов аппаратного ускорения или нативных рантаймов на конференциях (аналогично выпуску TorchTPU на PyTorch Conference).
ПОЧЕМУ ЭТО ВАЖНО
Это упрощает доступ к различным GPU, повышает переносимость и производительность локального AI, облегчая переход от устаревшего делегата TFLite и расширяя возможности использования моделей на устройствах.
КАРТА ДОКАЗАТЕЛЬСТВ
4Редакционные тезисы связаны с конкретными источниками. Отдельно отмечены подтверждения, противоречия и контекст.
Google выпустила ML Drift как открытый кросс-платформенный GPU-движок для локального AI/ML-инференса под лицензией Apache 2.0.
ПОДТВЕРЖДЕНОПроверено 2026-10-25 · 1 подтверждений
ML Drift абстрагирует несколько низкоуровневых GPU-API: OpenGL ES, OpenCL, Metal и WebGPU.
ПОДТВЕРЖДЕНОПроверено 2026-10-25 · 1 подтверждений
ML Drift является ядром GPU-ускорения, которое питает LiteRT.
ПОДТВЕРЖДЕНОПроверено 2026-10-25 · 1 подтверждений
ML Drift вводит единые шейдеры через виртуализацию тензоров, расширяемые пользовательские операции, поддержку 5D-тензоров и включает аппаратно-специфичные оптимизации для GPU Arm, Intel и Qualcomm.
ПОДТВЕРЖДЕНОПроверено 2026-10-25 · 1 подтверждений
ИСТОЧНИКИ И ХРОНОЛОГИЯ
1InfoQ Homepage News Google ML Drift Accelerates On-Device AI Inference Across Diverse GPUs Google has released ML Drift, an open-source, cross-platform GPU compute engine designed for on-device AI and machine learning inference . Licensed under Apache 2.0, it abstracts the complexities of different GPU hardware and low-level APIs, supporting OpenGL ES, OpenCL, Metal, and WebGPU. ML Drift is the core GPU acceleratio…
InfoQ Homepage News PyTorch Conference 2026: Google and Meta Open-Source TorchTPU for Native PyTorch on TPUs At PyTorch Conference North America 2026 in San Jose, Google and Meta open-sourced TorchTPU , a native PyTorch backend for Google's Tensor Processing Units (TPUs). Meta, which created PyTorch in 2016, plans to move larger-scale LLM workloads onto TPUs with it, Meta software engineer Zongwei Zhou said in the O…