РЕЛИЗ · MODELS · #1537
Aleph Alpha выпустила Kolibri — 78-млрд MoE‑модель для нем./англ. с контекстом 1M и открытыми весами
Aleph Alpha представила Kolibri — 78‑миллиардную немецко‑английскую MoE‑модель с примерно 3 миллиардами активных параметров на токен и поддержкой контекста до 1 миллиона токенов; её обучали на 768 B200 GPU в Германии и Финляндии. Компания указывает, что 21,3% данных — на немецком, для синтетических данных использовали китайские модели, модель заявлена как Pareto‑эффективная по качеству и стоимости, веса доступны под Apache 2.0 на Hugging Face и ориентированы на госуправление, авиацию и промышленность с учётом требованиям EU AI Act.
КЛЮЧЕВЫЕ ТЕЗИСЫ
- Aleph Alpha представила Kolibri — 78‑миллиардную немецко‑английскую MoE‑модель с примерно 3 миллиардами активных параметров на токен и поддержкой контекста до 1 миллиона токенов; её обучали на 768 B200 GPU в Германии и Финляндии.
- Компания указывает, что 21,3% данных — на немецком, для синтетических данных использовали китайские модели, модель заявлена как Pareto‑эффективная по качеству и стоимости, веса доступны под Apache 2.0 на Hugging Face и ориентированы на госуправление, авиацию и промышленность с учётом требованиям EU AI Act.
- Открытая весовая модель MoE европейской разработки с крупным контекстом и акцентом на немецкие данные укрепляет европейский суверенитет в ИИ и упрощает развертывание соответствующих требованиям решений.
ПОЧЕМУ ЭТО ВАЖНО
Открытая весовая модель MoE европейской разработки с крупным контекстом и акцентом на немецкие данные укрепляет европейский суверенитет в ИИ и упрощает развертывание соответствующих требованиям решений.