ИССЛЕДОВАНИЕ · RESEARCH · #1152
Статья улучшает оценки сходимости для федеративных вариационных неравенств и предлагает LIPPAX
В работе уточнён анализ Local Extra SGD и получены более жёсткие оценки сходимости для гладких монотонных федеративных вариационных неравенств; выявлено ограничение метода, приводящее к дрейфу клиентов, и предложён новый алгоритм LIPPAX (Local Inexact Proximal Point Algorithm with Extra Step), который уменьшает дрейф и обеспечивает улучшенные темпы сходимости в режимах с ограниченной гессианой, ограниченным оператором и при низкой дисперсии; также результаты расширены на композиционные случаи.
КЛЮЧЕВЫЕ ТЕЗИСЫ
- В работе уточнён анализ Local Extra SGD и получены более жёсткие оценки сходимости для гладких монотонных федеративных вариационных неравенств; выявлено ограничение метода, приводящее к дрейфу клиентов, и предложён новый алгоритм LIPPAX (Local Inexact Proximal Point Algorithm with Extra Step), который уменьшает дрейф и обеспечивает улучшенные темпы сходимости в режимах с ограниченной гессианой, ограниченным оператором и при низкой дисперсии; также результаты расширены на композиционные случаи.
- Улучшенные теоретические оценки и алгоритм, уменьшающий дрейф клиентов, делают федеративную оптимизацию для вариационных неравенств эффективнее и приближают её к известным результатам для федеративной выпуклой оптимизации.
- Faster Rates for Federated Variational Inequalities
ПОЧЕМУ ЭТО ВАЖНО
Улучшенные теоретические оценки и алгоритм, уменьшающий дрейф клиентов, делают федеративную оптимизацию для вариационных неравенств эффективнее и приближают её к известным результатам для федеративной выпуклой оптимизации.