ИССЛЕДОВАНИЕ · RESEARCH · #2091
Статья на arXiv формализует и генерирует композиционную структуру с помощью теории алгоритмической информации
Авторы формализуют композиционную структуру как общую структуру, проявляющуюся при совместном моделировании частей, но не при отдельном, применяя теорию алгоритмической информации для её выявления на разных масштабах. С помощью вычислимых приближений они инвертируют рамку для оптимизации строк и изображений с иерархическим повторным использованием частей и обсуждают последствия для машинного обучения — в т.ч. вопросы глубины архитектур и принципы композиционных учебных наборов.
КЛЮЧЕВЫЕ ТЕЗИСЫ
- Авторы формализуют композиционную структуру как общую структуру, проявляющуюся при совместном моделировании частей, но не при отдельном, применяя теорию алгоритмической информации для её выявления на разных масштабах.
- С помощью вычислимых приближений они инвертируют рамку для оптимизации строк и изображений с иерархическим повторным использованием частей и обсуждают последствия для машинного обучения — в т.ч.
- вопросы глубины архитектур и принципы композиционных учебных наборов.
ПОЧЕМУ ЭТО ВАЖНО
Формальное определение и метод генерации композиционных объектов могут повлиять на проектирование представлений, выбор глубины архитектур и состав учебных наборов, способствующих систематической генерализации и открытому обучению в ML.