Tech Meridian ← К СУЩНОСТЯМ
PROМОЙ MERIDIAN EN

ТЕМА · ENTITY #3753

quantization

Хронология связанных событий, источники и контекст из новостной базы.

ХРОНОЛОГИЯ СОБЫТИЙ

2

CODING · 1 ИСТОЧН. · MIT Technology Review AI

Проектирование инфраструктуры развёртывания ИИ, рассчитанной на длительную эксплуатацию

Материал утверждает, что конкурентное преимущество в корпоративном ИИ всё чаще определяется не выбором модели, а инфраструктурой развёртывания — инженерной оболочкой (архитектура, управление памятью, планирование, оптимизации), которая превращает модель в надёжную и экономичную продуктивную функцию. Авторы призывают проектировать архитектуры под требования рабочей нагрузки (латентность, параллелизм, GPU‑память, стоимость), измерять узкие места перед оптимизацией и делать систему адаптируемой к изменениям моделей, железа и методов.

6.0

RESEARCH · 1 ИСТОЧН. · arXiv cs.AI

FairCompressAgent (FCA): агентная система для компрессии моделей с учетом справедливости для FPGA

В работе представлен FairCompressAgent (FCA) — агентная платформа, объединяющая методы очистки (pruning), поэтапной квантизации и разреженной низкоранговой факторизации через единый интерфейс; планировщик на основе языковой модели использует профили моделей и измеренные результаты для выбора конфигураций компрессии, а слой исполнения выполняет компрессию, дообучение, оценку и отбор с учетом ограничений. На наборе Fitzpatrick-17k с VGG-11 FCA при требовании по точности снизил объем тензоров инференса на 59.54%, повысил валидационную среднюю точность с 0.5141 до 0.5233 и уменьшил equalized opportunity с 0.2251 до 0.2168, при этом достиг той же окончательной конфигурации, что и одношаговое планирование, с меньшим числом проверенных кандидатов (7.33 vs 12 в среднем).

6.0