НОВОСТЬ · STARTUPS · #864
Modal перестроила инфраструктуру песочниц для масштабирования до 1 миллиона одновременных песочниц за секунды
Инженеры Modal перестроили платформу песочниц, убрав централизованную координацию (например, etcd в Kubernetes): каждый рабочий узел стал источником правды, а планирование выполняется параллельно. По бенчмарку новая архитектура создала 1 миллион песочниц менее чем за минуту с медианой запуска до готовности к коду < 0,5 с и стабильно десятками тысяч созданий песочниц в секунду.
КЛЮЧЕВЫЕ ТЕЗИСЫ
- Инженеры Modal перестроили платформу песочниц, убрав централизованную координацию (например, etcd в Kubernetes): каждый рабочий узел стал источником правды, а планирование выполняется параллельно.
- По бенчмарку новая архитектура создала 1 миллион песочниц менее чем за минуту с медианой запуска до готовности к коду < 0,5 с и стабильно десятками тысяч созданий песочниц в секунду.
- Показывает практическую альтернативу расширению Kubernetes для инфраструктуры GenAI: разделение координации и исполнения и достижение субсекундной изоляции при масштабе в миллион песочниц.
ПОЧЕМУ ЭТО ВАЖНО
Показывает практическую альтернативу расширению Kubernetes для инфраструктуры GenAI: разделение координации и исполнения и достижение субсекундной изоляции при масштабе в миллион песочниц.