РЕЛИЗ · CODING · #3280
AWS представила TorchNeuron для запуска PyTorch на Trainium с минимальными изменениями кода
На конференции PyTorch NA 2026 Amazon представила TorchNeuron — нативный бэкенд PyTorch, позволяющий запускать существующий код PyTorch на чипах AWS Trainium с минимальными изменениями (например, .to('cuda') → .to('neuron')). TorchNeuron поддерживает распределённое обучение (DDP, FSDP2, DTensor), потоки/события Torch, предоставляет интерфейс Neuron Kernel Interface для собственных операторов; Amazon утверждает, что протестировала популярные модели и сотни архитектур, а первыми пользователями стали Cartesia и Lieber Institute for Brain Development.
КЛЮЧЕВЫЕ ТЕЗИСЫ
- На конференции PyTorch NA 2026 Amazon представила TorchNeuron — нативный бэкенд PyTorch, позволяющий запускать существующий код PyTorch на чипах AWS Trainium с минимальными изменениями (например, .to('cuda') → .to('neuron')).
- TorchNeuron поддерживает распределённое обучение (DDP, FSDP2, DTensor), потоки/события Torch, предоставляет интерфейс Neuron Kernel Interface для собственных операторов; Amazon утверждает, что протестировала популярные модели и сотни архитектур, а первыми пользователями стали Cartesia и Lieber Institute for Brain Development.
- Снижение трений при переносе на Trainium может уменьшить затраты на разработку, позволить динамически распределять мощность между обучением и инференсом и повлиять на конкуренцию в облачной ИИ-инфраструктуре (например, против TorchTPU от Google).
ПОЧЕМУ ЭТО ВАЖНО
Снижение трений при переносе на Trainium может уменьшить затраты на разработку, позволить динамически распределять мощность между обучением и инференсом и повлиять на конкуренцию в облачной ИИ-инфраструктуре (например, против TorchTPU от Google).