НОВОСТЬ · MODELS · #1919
LFM2.5-24B-A2B: MoE‑модель 24B (2B активных) для быстрых частных агент‑запусков на устройстве — открытые веса
LFM2.5-24B-A2B — MoE‑модель с 24 млрд параметров, из которых за токен активны только 2 млрд; модель рассчитана на вывод цепочек рассуждений и оптимизирована для непрерывной приватной работы агентов на устройстве. Контекст вырос до 131K токенов, словарь увеличен до 128K, заявлены высокие скорости вывода (напр., 184 ток/с на Apple M5 Max и >21K ток/с на NVIDIA B300), модель конкурентна с более крупными решениями по агентным задачам и доступна как open‑weight на Hugging Face с поддержкой популярных рантаймов.
КЛЮЧЕВЫЕ ТЕЗИСЫ
- LFM2.5-24B-A2B — MoE‑модель с 24 млрд параметров, из которых за токен активны только 2 млрд; модель рассчитана на вывод цепочек рассуждений и оптимизирована для непрерывной приватной работы агентов на устройстве.
- Контекст вырос до 131K токенов, словарь увеличен до 128K, заявлены высокие скорости вывода (напр., 184 ток/с на Apple M5 Max и >21K ток/с на NVIDIA B300), модель конкурентна с более крупными решениями по агентным задачам и доступна как open‑weight на Hugging Face с поддержкой популярных рантаймов.
- Позволяет эффективно и приватно запускать непрерывное агентное рассуждение на локальном железе за счёт низкого числа активных параметров и доступности открытых весов и рантаймов.
ПОЧЕМУ ЭТО ВАЖНО
Позволяет эффективно и приватно запускать непрерывное агентное рассуждение на локальном железе за счёт низкого числа активных параметров и доступности открытых весов и рантаймов.