Deepgram портировал Nova-3 ASR на AWS Trainium2 и достиг экономии 11–70% при пакетной обработке
Deepgram совместно с AWS портировал модель Nova-3 распознавания речи на AWS Trainium2 с использованием TorchNeuron, NKILib и собственных NKI-ядр; итоговая конфигурация размещает восемь реплик модели на одном экземпляре Amazon EC2 trn2.3xlarge. Для оффлайн пакетных задач (например, аналитика контакт-центров, медицинская транскрипция) эта настройка обрабатывала на 11–70% больше аудио за доллар по сравнению с ранее используемыми вычислительными опциями (по ценам инстансов на момент оценки).