ИССЛЕДОВАНИЕ · RESEARCH · #3066
Исследователи MIT показали, что GPT-6 Astra от OpenAI может читать и менять веса других моделей
Исследователи MIT сообщают, что GPT-6 Astra от OpenAI может анализировать сырые веса нейросетей и целенаправленно изменять их — подход, который они называют «программированием в пространстве весов». В экспериментах Astra определяла задачи, которые выучили модели, генерировала веса для игры (в Breakout — 517 против 25 у базовой обученной модели) и значительно повысила точность Qwen3.5-0.8B по MATH-500 с 7.9% до 48.1%, изменив лишь 0.016% весов, при этом авторы отмечают ограничения и ошибки метода.
КЛЮЧЕВЫЕ ТЕЗИСЫ
- Исследователи MIT сообщают, что GPT-6 Astra от OpenAI может анализировать сырые веса нейросетей и целенаправленно изменять их — подход, который они называют «программированием в пространстве весов».
- В экспериментах Astra определяла задачи, которые выучили модели, генерировала веса для игры (в Breakout — 517 против 25 у базовой обученной модели) и значительно повысила точность Qwen3.5-0.8B по MATH-500 с 7.9% до 48.1%, изменив лишь 0.016% весов, при этом авторы отмечают ограничения и ошибки метода.
- Этот подход может изменить методы настройки, аудита и исправления моделей, позволяя целенаправленно править веса без полного дообучения, хотя у метода есть практические ограничения.
ПОЧЕМУ ЭТО ВАЖНО
Этот подход может изменить методы настройки, аудита и исправления моделей, позволяя целенаправленно править веса без полного дообучения, хотя у метода есть практические ограничения.