Tech Meridian ← К СУЩНОСТЯМ
PROМОЙ MERIDIAN EN

КОМПАНИЯ · ENTITY #38658

EC2 G-series (G4dn/G5/G6/G6f/Gr6/Gr6f/G6e)

Хронология связанных событий, источники и контекст из новостной базы.

ХРОНОЛОГИЯ СОБЫТИЙ

1

COMPANIES · 1 ИСТОЧН. · InfoQ AI, ML & Data Engineering

AWS Lambda получил поддержку GPU на G‑серии: до 48 одновременных вызовов с одной моделью

AWS объявила о поддержке GPU для Lambda Managed Instances: функции в виде OCI‑контейнеров теперь могут запускаться на EC2 G‑серии (G4dn, G5, G6, G6f, Gr6, Gr6f, G6e). Параметр AcceleratorConfig задаёт объём GPU‑памяти, до 48 одновременных вызовов могут пользоваться одной копией модели в памяти GPU; AWS поставляет пять базовых GPU‑образов (CUDA, CuPy, PyTorch, vLLM, SGLang), тарификация — по ставке EC2 On‑Demand плюс 9.75% сбор и $0.20 за миллион запросов; первые тесты показали высокую производительность, но остались трения с инструментами и квотами.

8.0