НОВОСТЬ · MODELS · #2728
Artificial Analysis переработала индекс Intelligence v5 — Kimi K3.1 Pro опустился на 9-е место
Artificial Analysis выпустила переработанный индекс Intelligence (v5), в котором 60% тестов являются закрытыми, и разрыв в баллах между открытыми и закрытыми моделями вырос до 12 (ранее — 3). Обновление опустило Kimi K3.1 Pro с 4-го на 9-е место, снизило оценку Grok 4.7 на 12 баллов; для нового индекса были исправлены неоднозначные вопросы в тесте AA-Omniscience.
КЛЮЧЕВЫЕ ТЕЗИСЫ
- Artificial Analysis выпустила переработанный индекс Intelligence (v5), в котором 60% тестов являются закрытыми, и разрыв в баллах между открытыми и закрытыми моделями вырос до 12 (ранее — 3).
- Обновление опустило Kimi K3.1 Pro с 4-го на 9-е место, снизило оценку Grok 4.7 на 12 баллов; для нового индекса были исправлены неоднозначные вопросы в тесте AA-Omniscience.
- Изменение методики бенчмарка (больше закрытых тестов) существенно влияет на ранжирование моделей и показывает, что прежние публичные тесты могли завышать оценки некоторых открытых моделей.
ПОЧЕМУ ЭТО ВАЖНО
Изменение методики бенчмарка (больше закрытых тестов) существенно влияет на ранжирование моделей и показывает, что прежние публичные тесты могли завышать оценки некоторых открытых моделей.