ИССЛЕДОВАНИЕ · RESEARCH · #533
FairCompressAgent (FCA): агентная система для компрессии моделей с учетом справедливости для FPGA
В работе представлен FairCompressAgent (FCA) — агентная платформа, объединяющая методы очистки (pruning), поэтапной квантизации и разреженной низкоранговой факторизации через единый интерфейс; планировщик на основе языковой модели использует профили моделей и измеренные результаты для выбора конфигураций компрессии, а слой исполнения выполняет компрессию, дообучение, оценку и отбор с учетом ограничений. На наборе Fitzpatrick-17k с VGG-11 FCA при требовании по точности снизил объем тензоров инференса на 59.54%, повысил валидационную среднюю точность с 0.5141 до 0.5233 и уменьшил equalized opportunity с 0.2251 до 0.2168, при этом достиг той же окончательной конфигурации, что и одношаговое планирование, с меньшим числом проверенных кандидатов (7.33 vs 12 в среднем).
КЛЮЧЕВЫЕ ТЕЗИСЫ
- В работе представлен FairCompressAgent (FCA) — агентная платформа, объединяющая методы очистки (pruning), поэтапной квантизации и разреженной низкоранговой факторизации через единый интерфейс; планировщик на основе языковой модели использует профили моделей и измеренные результаты для выбора конфигураций компрессии, а слой исполнения выполняет компрессию, дообучение, оценку и отбор с учетом ограничений.
- На наборе Fitzpatrick-17k с VGG-11 FCA при требовании по точности снизил объем тензоров инференса на 59.54%, повысил валидационную среднюю точность с 0.5141 до 0.5233 и уменьшил equalized opportunity с 0.2251 до 0.2168, при этом достиг той же окончательной конфигурации, что и одношаговое планирование, с меньшим числом проверенных кандидатов (7.33 vs 12 в среднем).
- FCA демонстрирует, как измеренная обратная связь и планировщик на основе языковой модели могут автоматизировать компромисс между точностью, справедливостью и стоимостью развёртывания (например, на FPGA), позволяя интерактивно настраивать компрессию с учётом ограничений.
ПОЧЕМУ ЭТО ВАЖНО
FCA демонстрирует, как измеренная обратная связь и планировщик на основе языковой модели могут автоматизировать компромисс между точностью, справедливостью и стоимостью развёртывания (например, на FPGA), позволяя интерактивно настраивать компрессию с учётом ограничений.