Tech Meridian ← К СУЩНОСТЯМ
PROМОЙ MERIDIAN EN

ТЕМА · ENTITY #33457

pytorch-inference-sglang-neuron:v0.1.0-neuron-py314-sdk-2.33.0-ubuntu26.04

Хронология связанных событий, источники и контекст из новостной базы.

ХРОНОЛОГИЯ СОБЫТИЙ

1

CODING · 1 ИСТОЧН. · AWS Machine Learning

Выпущен плагин SGLang‑Neuron для запуска SGLang на AWS Trainium (контейнер v0.1.0)

Amazon объявила о публичной доступности SGLang‑Neuron через контейнер AWS Deep Learning, выпущенный RadixArk совместно с Annapurna Labs. Плагин связывает SGLang с Trainium (нативный PyTorch с Neuron‑ядрами), поддерживает PD‑дисагрегацию по EFA и поставляется с контейнером pytorch‑inference (v0.1.0) и примерами запуска моделей, например openai/gpt-oss-120b.

6.0