ИССЛЕДОВАНИЕ · RESEARCH · #1890
Sakana AI и UC Berkeley: один LLM самосовершенствуется с помощью MASS, но внутренний оценщик может закреплять слепые зоны
Исследователи из Sakana AI и UC Berkeley представили Multi-Agent Self-Supervision (MASS) — метод, при котором одна языковая модель запускает копии себя в роли субагентов для решения задач, оценки результатов и оптимизации рабочих потоков. На базе Qwen3.6-27B метод повысил выигрышные показатели до ~70% после двух раундов на ряде бенчмарков, но общие слепые зоны самопроверки иногда принимают ошибочные решения и закрепляют ошибки в следующем цикле обучения.
КЛЮЧЕВЫЕ ТЕЗИСЫ
- Исследователи из Sakana AI и UC Berkeley представили Multi-Agent Self-Supervision (MASS) — метод, при котором одна языковая модель запускает копии себя в роли субагентов для решения задач, оценки результатов и оптимизации рабочих потоков.
- На базе Qwen3.6-27B метод повысил выигрышные показатели до ~70% после двух раундов на ряде бенчмарков, но общие слепые зоны самопроверки иногда принимают ошибочные решения и закрепляют ошибки в следующем цикле обучения.
- Демонстрирует масштабируемый путь к рекурсивному самосовершенствованию LLM без сильного учителя, но подчёркивает критическую проблему безопасности: внутренние оценщики могут подтверждать и усиливать собственные ошибки.
ПОЧЕМУ ЭТО ВАЖНО
Демонстрирует масштабируемый путь к рекурсивному самосовершенствованию LLM без сильного учителя, но подчёркивает критическую проблему безопасности: внутренние оценщики могут подтверждать и усиливать собственные ошибки.