НОВОСТЬ · MODELS · #1022
Pistis: семейство мультимодальных LLM на 27B и 9B с посттренингом IDRL (arXiv:2609.28554v1)
В работе arXiv:2609.28554v1 представлено семейство моделей Pistis — мультимодальные LLM на 27B и 9B параметров, созданные на базе Qwen3.6 и Qwen3.5 и обученные через масштабируемый посттренинговый фреймворк: крупномасштабный мультимодальный SFT, затем новый метод Interleaved Distillation and Reinforcement Learning (IDRL). Описаны две специализации (Pistis-Thinking для глубинного мультимодального рассуждения и Pistis-Agentic для планирования на длинной горизонте и использования инструментов), а также системный метод Pistis-Auto-Harnessing (PAH); обе шкалы превосходят свои базовые модели, причём Agentic-сборка особенно сильна в мультимодальном поиске.
КЛЮЧЕВЫЕ ТЕЗИСЫ
- В работе arXiv:2609.28554v1 представлено семейство моделей Pistis — мультимодальные LLM на 27B и 9B параметров, созданные на базе Qwen3.6 и Qwen3.5 и обученные через масштабируемый посттренинговый фреймворк: крупномасштабный мультимодальный SFT, затем новый метод Interleaved Distillation and Reinforcement Learning (IDRL).
- Описаны две специализации (Pistis-Thinking для глубинного мультимодального рассуждения и Pistis-Agentic для планирования на длинной горизонте и использования инструментов), а также системный метод Pistis-Auto-Harnessing (PAH); обе шкалы превосходят свои базовые модели, причём Agentic-сборка особенно сильна в мультимодальном поиске.
- Это важно, поскольку IDRL объединяет on-policy дистилляцию и RL в одном цикле для лучшей передачи знаний, стабильности оптимизации и работы в задачах с длинной горизонтом, а PAH показывает улучшения на уровне инфраструктуры вывода без изменения весов модели.
ПОЧЕМУ ЭТО ВАЖНО
Это важно, поскольку IDRL объединяет on-policy дистилляцию и RL в одном цикле для лучшей передачи знаний, стабильности оптимизации и работы в задачах с длинной горизонтом, а PAH показывает улучшения на уровне инфраструктуры вывода без изменения весов модели.