Tech Meridian ← К СУЩНОСТЯМ
PROМОЙ MERIDIAN EN

ТЕМА · ENTITY #27908

huggingface-mic

Хронология связанных событий, источники и контекст из новостной базы.

ХРОНОЛОГИЯ СОБЫТИЙ

1

MODELS · 1 ИСТОЧН. · Hugging Face

Предложенные MIC‑фикстуры Transformers могли бы обнаружить баг UMT5 с вниманием в будущее, внесённый при включении SDPA в PyTorch

30 июля 2026 года в Transformers для T5 включили вариант масштабированного скалярного внимания PyTorch (SDPA), что позволило декодеру UMT5 смотреть на будущие токены во время обучения. Проект предлагает Model Integration Contracts (transformers-mic): маленькие зафиксированные фикстуры, выполняемые примеры использования и сохранённые эталоны, запускаемые на дешёвых CPU — при воспроизведении MIC на истории коммитов фикстура UMT5 отметила регрессию с момента её появления до исправления 28 сентября 2026 года.

7.0