TorchNeuron

2026-10-20

COMPANIES · 1 ИСТОЧН. · TechCrunch AI

Google выпустила открытый TorchTPU для запуска PyTorch на TPU, бросая вызов Nvidia

Google объявила о TorchTPU — открытой реализации PyTorch, которая позволяет разработчикам запускать существующие PyTorch‑приложения на TPU Google с минимальными изменениями; это следует за недавним выпуском Amazon TorchNeuron для Trainium и дополняет усилия по отвязке PyTorch от аппаратной привязки к Nvidia. Google также представила TPU agent suite и обновила LiteRT для помощи при портировании и запуске на устройствах.

8.0

2026-10-20

CODING · 1 ИСТОЧН. · Hugging Face

Hugging Face выпускает TorchNeuron — нативный бэкенд PyTorch для AWS Trainium (публичная бета 20 окт. 2026)

TorchNeuron — новый плагин PyTorch от Hugging Face, который делает Neuron нативным устройством PyTorch для AWS Trainium, включая поддержку eager execution, torch.compile и распределённых API (DTensor, FSDP, TP). Он позволяет запускать Transformers, Diffusers и другие библиотеки Hugging Face на Trainium без специальных форков Optimum Neuron, увеличивает совместимость моделей для генерации текста (89% против 46% у Optimum Neuron v0.4.5) и станет публичной бетой с 20 октября 2026 (pip install torch-neuronx).

8.0

2026-10-19

COMPANIES · 1 ИСТОЧН. · TechCrunch AI

AWS запускает TorchNeuron для запуска моделей PyTorch на Trainium

Amazon Web Services выпустила TorchNeuron — совместимый с PyTorch инструмент, который, по данным AWS, позволяет запускать приложения PyTorch на её AI‑чипах Trainium с минимальной конфигурацией (одна строка). AWS также намерена внести изменения в основной проект PyTorch, чтобы ослабить привязку фреймворка к конкретным чипам, и утверждает, что это даст стартапам простой доступ к облаку AWS и лучшую экономику для обучения и вывода моделей.

8.0

2026-10-19

MODELS · 1 ИСТОЧН. · AWS Machine Learning

Deepgram портировал Nova-3 ASR на AWS Trainium2 и достиг экономии 11–70% при пакетной обработке

Deepgram совместно с AWS портировал модель Nova-3 распознавания речи на AWS Trainium2 с использованием TorchNeuron, NKILib и собственных NKI-ядр; итоговая конфигурация размещает восемь реплик модели на одном экземпляре Amazon EC2 trn2.3xlarge. Для оффлайн пакетных задач (например, аналитика контакт-центров, медицинская транскрипция) эта настройка обрабатывала на 11–70% больше аудио за доллар по сравнению с ранее используемыми вычислительными опциями (по ценам инстансов на момент оценки).

7.0