Tech Meridian ← К СУЩНОСТЯМ
PROМОЙ MERIDIAN EN

КОМПАНИЯ · ENTITY #20313

Deepgram

Хронология связанных событий, источники и контекст из новостной базы.

ХРОНОЛОГИЯ СОБЫТИЙ

2

COMPANIES · 1 ИСТОЧН. · TechCrunch AI

AWS запускает TorchNeuron для запуска моделей PyTorch на Trainium

Amazon Web Services выпустила TorchNeuron — совместимый с PyTorch инструмент, который, по данным AWS, позволяет запускать приложения PyTorch на её AI‑чипах Trainium с минимальной конфигурацией (одна строка). AWS также намерена внести изменения в основной проект PyTorch, чтобы ослабить привязку фреймворка к конкретным чипам, и утверждает, что это даст стартапам простой доступ к облаку AWS и лучшую экономику для обучения и вывода моделей.

8.0

MODELS · 1 ИСТОЧН. · AWS Machine Learning

Deepgram портировал Nova-3 ASR на AWS Trainium2 и достиг экономии 11–70% при пакетной обработке

Deepgram совместно с AWS портировал модель Nova-3 распознавания речи на AWS Trainium2 с использованием TorchNeuron, NKILib и собственных NKI-ядр; итоговая конфигурация размещает восемь реплик модели на одном экземпляре Amazon EC2 trn2.3xlarge. Для оффлайн пакетных задач (например, аналитика контакт-центров, медицинская транскрипция) эта настройка обрабатывала на 11–70% больше аудио за доллар по сравнению с ранее используемыми вычислительными опциями (по ценам инстансов на момент оценки).

7.0