Tech Meridian
← К СУЩНОСТЯМ
КОМПАНИЯ · ENTITY #3451
Хронология связанных событий, источники и контекст из новостной базы.
В статье на arXiv (2610.41112v1) исследуются три подхода к калибровке формата HiFloat4 (HiF4) — HiGPTQ, HiAutoRound и HiFlatQuant. Авторы сообщают, что эти методы сокращают разрыв по точности с BF16 до менее чем 1% и превосходят NVFP4 на различных моделях и задачах по сравнению с прямым переводом в HiF4.
Стартап Recursive под руководством Ричарда Сочера и с сооснователем Джеффом Клином предлагает Flint — открытую модель для программирования с 40 миллиардами параметров, которую компания утверждает, что в значительной степени разработала и оптимизировала её рекурсивная система ИИ «Eureka Machine». Recursive опубликовала бенчмарк‑результаты, по которым Flint превосходит соперников в задачах кодирования, и привлекла $650 млн при оценке в $4,65 млрд от инвесторов, включая Google Ventures, Greycroft, Nvidia и AMD Ventures.
Black Forest Labs разместила FLUX.3 Image Klein на Hugging Face и предоставляет открытые чекпойнты, совместимые с Hugging Face Diffusers. Модель выполняет текст‑в‑изображение и мульти‑референс image‑to‑image, добавляет управление композицией через bounding‑box для размещения областей и правок, включает дистиллированный чекпойнт (1024×1024 ≈2 с на H100, по умолчанию 16 шагов), квантизованные весовые файлы (bf16, fp8r, nvfp4) и скрипты для обучения LoRA/DreamBooth.
Фреймворк MLX получил поддержку Apple Silicon и показал запуск фронтирных LLM локально и в распределённой конфигурации на Mac Studio. С последним релизом MLX и RDMA поверх Thunderbolt кластер из четырёх Mac Studio запускает Muse Spark Open (816B, MoE, NVFP4) со скоростью более 36 токенов/с; более компактные модели (Qwen 3.8 и Mistral Medium 3.5) помещаются на одном Mac Studio с 512 ГБ. Бенчмарки через mlx_lm.benchmark показывают до 4.6× ускорения TTFT и примерно 1.6× прирост токенов/с на M5 Ultra против M3 Ultra, с пиковым энергопотреблением около 200–300 Вт.
TensorRT Edge-LLM от NVIDIA запустил Qwen3.6-27B на одном Jetson AGX Thor Developer Kit и показал 52.33 токена/с в тесте MLPerf Inference v6.1 Edge Agentic, завершив 1 007 ходов за 24 мин 36 с — в 6.4× быстрее, чем эталонный запуск llama.cpp на Jetson (2 ч 37 м). В решении использованы квантование NVFP4 для весов/активаций, FP8 для KV-кеша, древовидная многотоковая предсказательная декодировка и повторное использование KV-кеша.
Allow Google Analytics to measure visits? It stays off until you choose. You can change your choice at any time.