Tech Meridian ← К СУЩНОСТЯМ
PROМОЙ MERIDIAN EN

КОМПАНИЯ · ENTITY #8924

FSDP

Хронология связанных событий, источники и контекст из новостной базы.

ХРОНОЛОГИЯ СОБЫТИЙ

2

MODELS · 1 ИСТОЧН. · Hugging Face

Olmo запускает Olmo-core 3 — открытую масштабируемую инфраструктуру обучения MoE

Olmo выпустила Olmo-core 3 — переработанный открытый фреймворк для обучения моделей с mixture-of-experts (MoE), рассчитанный на масштабирование до триллионных параметров при сохранении вычислительной эффективности. Стек переходит от FSDP к DDP, сочетает экспертную и конвейерную параллельность и другие оптимизации; по данным компании, на 47‑млрд MoE на восьми NVIDIA B300 пропускная способность выросла в 2,7×, а MXFP8 в тестах дал примерно +21% к скорости по сравнению с BF16.

7.0

COMPANIES · 1 ИСТОЧН. · AWS Machine Learning

Запуск пост‑обучения SkyRL (GRPO) для Qwen3‑VL‑8B на Amazon SageMaker HyperPod

Amazon показала запуск открытой библиотеки SkyRL на SageMaker HyperPod (EKS) для пост‑обучения визуально‑языковой модели Qwen3‑VL‑8B методом Group Relative Policy Optimization (GRPO). На HyperPod Ray‑кластере с общим хранилищем FSx решение повысило процент решения лабиринтов с 43,75% до более чем 95% на фиксированном наборе из 64 лабиринтов, сочетая vLLM‑инференс и FSDP‑шардинг политики с LoRA‑адаптерами.

6.0