JAX

2026-11-02

CODING · 1 ИСТОЧН. · InfoQ AI, ML & Data Engineering

Google и Meta открыли исходники TorchTPU — нативный PyTorch-бэкенд для Google TPU

Google совместно с Meta опубликовали TorchTPU — нативный PyTorch-бэкенд для Google TPU, ориентированный на eager-режим, с поддержкой компиляции, распределённого обучения и оптимизаций аппаратуры; миграция обычно сводится к замене cuda->tpu и nccl->tpu_dist или использованию torch.accelerator. Google протестировал TorchTPU на ~5 000 моделях Hugging Face и сообщил о пропускной способности для 30B Muse Glimmer на одном TPUv7: 25,7k токен/с (seq_len 5120) и 22,4k токен/с (seq_len 10240), а также привёл данные по обучению и масштабируемости MoE до 8 192 TPUv7.

8.0

2026-09-30

RESEARCH · 1 ИСТОЧН. · arXiv cs.AI

PowerZooJax: бенчмарк на JAX для обучения с подкреплением в энергосистемах (arXiv:2609.36052v1)

PowerZooJax — это открытый бенчмарк на основе JAX для обучения с подкреплением в управлении энергосистемами, включающий пять задач (генерация, передача, распределение, распределённые энергоресурсы и микросеть ЦОД). Переписав вычисления потоков мощности, экономического диспетчирования, расчёта рынка и динамики устройств как графы JAX для выполнения на GPU, авторы отмечают значительное ускорение по сравнению с CPU и стандартизованную оценку доходности политик, нарушений безопасности и стресс-тестов вне распределения.

6.0

2026-09-23

CODING · 1 ИСТОЧН. · Hugging Face

NVIDIA показывает, как с помощью Warp и MJWarp запускать MuJoCo в масштабе GPU (до 2048 окружений)

NVIDIA описывает перенос рабочего процесса MuJoCo (манипулятор SO-101) в MJWarp — реализацию физического конвейера MuJoCo на базе NVIDIA Warp — и демонстрирует одновременное выполнение до 2048 параллельных окружений на GPU. В статье объясняются модель ядра Warp для GPU, массивы на устройстве, компонуемые запуски и захват графа, а также упоминаются дифференцируемые ядра и опциональный детерминированный режим (Warp ≥ 1.15); материал посвящён подготовке и масштабированию симуляций, а не обучению политик.

6.0

2026-09-23

CODING · 1 ИСТОЧН. · InfoQ AI, ML & Data Engineering

Google добавляет профилирование на уровне циклов в XProf для TPU v7

Google добавила набор профилирования ядра в XProf (профайлер OpenXLA/JAX), показывающий детали на уровне циклов для пользовательских ядер (например, Pallas) и снимающий аппаратные счетчики производительности на TPU v7 (Ironwood). Инструменты отображают пониженный MLIR, синхронизированные треки счетчиков по блокам, просмотр Perf Counters с ~16 000 сырыми счетчиками и поддерживают периодическую выборку (порог 1 мкс) или захват с внешним триггером для субмикросекундной точности; в демонстрации Google тройное буферизование сократило время матмул-ядра с 125,5 мкс до 88 мкс.

6.0

2026-09-14

MODELS · 1 ИСТОЧН. · NVIDIA Developer

Ускорение обучения dropless MoE в JAX с помощью NVIDIA Transformer Engine

NVIDIA Developer рассказывает, как использовать NVIDIA Transformer Engine для ускорения обучения dropless архитектур Mixture‑of‑Experts (MoE) в JAX, приводя детали реализации и рекомендации по интеграции движка с MoE‑моделями. В материале также упоминаются современные MoE‑модели, такие как DeepSeek, Qwen и Mixtral, и рассматриваются практические шаги по повышению эффективности обучения.

6.0

2024-03-28

RESEARCH · 1 ИСТОЧН. · Google Research

AutoBNN — композиционные байесовские нейронные сети для вероятностного прогнозирования временных рядов (open-source, Google Research)

Google Research (публикация Урса Кёстера) представляет AutoBNN — открытый пакет на JAX, доступный в TensorFlow Probability, который заменяет гауссовы процессы композиционными байесовскими нейронными сетями для автоматического подбора интерпретируемых моделей прогнозирования временных рядов, выдачи оценок неопределённости и более эффективного масштабирования на больших наборах данных. AutoBNN переводит композиционные ядра GP в архитектуры BNN, реализует аналоги операций сложения и умножения и ориентирован на ускорение на GPU/TPU и гибридные архитектуры с глубокими BNN-компонентами.

7.0

2024-03-06

RESEARCH · 1 ИСТОЧН. · Google Research

Croissant 1.0: формат метаданных для ML-готовых датасетов на базе schema.org с поддержкой крупных хостов и фреймворков

Croissant — новый формат метаданных для ML-готовых датасетов (версия 1.0) на базе schema.org, который унифицирует описание и организацию данных, не меняя их форматов. Релиз включает спецификацию, примеры датасетов, открытый Python-инструментарий и визуальный редактор, расширение для ответственного ИИ, и получает поддержку со стороны Kaggle, Hugging Face, OpenML, Dataset Search и загрузки через TFDS в основных фреймворках.

7.0