НОВОСТЬ · COMPANIES · #1040
Perplexity заменяет DynamoDB собственной CobbleDB, снижая задержки чтения пакетов в 5 раз
Perplexity перевела основной уровень поиска с Amazon DynamoDB на CobbleDB — собственную распределённую key-value систему на Rust, разделив долговременное хранилище (Pillar) и горячую подачу (CobbleDB) с агрегатором Lorry и хранением батчей в S3. По данным компании, это снизило медианную задержку чтения пакетов с 31.4 мс до 5.60 мс, p99 — с 123 мс до 24.2 мс, обеспечило синтетическую пропускную способность до 500 тыс. запросов/с и уменьшило расходы на хранение как минимум на 20%.
КЛЮЧЕВЫЕ ТЕЗИСЫ
- Perplexity перевела основной уровень поиска с Amazon DynamoDB на CobbleDB — собственную распределённую key-value систему на Rust, разделив долговременное хранилище (Pillar) и горячую подачу (CobbleDB) с агрегатором Lorry и хранением батчей в S3.
- По данным компании, это снизило медианную задержку чтения пакетов с 31.4 мс до 5.60 мс, p99 — с 123 мс до 24.2 мс, обеспечило синтетическую пропускную способность до 500 тыс.
- запросов/с и уменьшило расходы на хранение как минимум на 20%.
ПОЧЕМУ ЭТО ВАЖНО
Это демонстрирует, что для нагрузок на извлечение данных в задачах ИИ компании могут создавать специализированные системы с eventual consistency, чтобы снизить задержки и расходы в масштабе продакшена.