РЕЛИЗ · MODELS · #3008
Anthropic выпустила публичную бета‑версию Message Threads для Claude — время до первого токена сократилось примерно на 35% при очень длинных беседах
Anthropic выпустила публичную бета‑версию Message Threads для платформы Claude. Функция передаёт только новые сообщения с момента последнего обмена (вместо повторной отправки всей истории), что, по данным Anthropic, сокращает время до первого токена примерно на 35% для запросов от 500 000 до 1 000 000 токенов; расход токенов не меняется, потоки хранятся в зашифрованной памяти и истекают через пять минут, а функция доступна на Claude и через AWS, Microsoft Foundry и Google Cloud.
КЛЮЧЕВЫЕ ТЕЗИСЫ
- Anthropic выпустила публичную бета‑версию Message Threads для платформы Claude.
- Функция передаёт только новые сообщения с момента последнего обмена (вместо повторной отправки всей истории), что, по данным Anthropic, сокращает время до первого токена примерно на 35% для запросов от 500 000 до 1 000 000 токенов; расход токенов не меняется, потоки хранятся в зашифрованной памяти и истекают через пять минут, а функция доступна на Claude и через AWS, Microsoft Foundry и Google Cloud.
- Сокращение времени до первого токена в очень длинных беседах снижает задержку для агентов по программированию и рабочих процессов с большим объёмом документов, повышая отзывчивость без изменения расхода токенов.
ПОЧЕМУ ЭТО ВАЖНО
Сокращение времени до первого токена в очень длинных беседах снижает задержку для агентов по программированию и рабочих процессов с большим объёмом документов, повышая отзывчивость без изменения расхода токенов.