НОВОСТЬ · MODELS · #2434
Cohere запускает публичную бету Confidential Computing для Model Vault на NVIDIA H100 в Microsoft Azure
Cohere объявила публичную бету Confidential Computing для управляемого сервиса инференса Model Vault, работающего на GPU NVIDIA H100 в инфраструктуре конфиденциальных вычислений Microsoft Azure. Функция добавляет аппаратную изоляцию, шифрование памяти GPU, удалённую аттестацию и сквозное шифрование запросов, позволяя проверять среду выполнения и защищать данные во время инференса.
КЛЮЧЕВЫЕ ТЕЗИСЫ
- Cohere объявила публичную бету Confidential Computing для управляемого сервиса инференса Model Vault, работающего на GPU NVIDIA H100 в инфраструктуре конфиденциальных вычислений Microsoft Azure.
- Функция добавляет аппаратную изоляцию, шифрование памяти GPU, удалённую аттестацию и сквозное шифрование запросов, позволяя проверять среду выполнения и защищать данные во время инференса.
- Это позволяет предприятиям запускать чувствительные инференс‑задачи на управляемой платформе с криптографической проверкой среды и защитой данных в процессе вычислений.
БРИФ ДЛЯ РЕШЕНИЙ
УВЕРЕННОСТЬ
ЧТО ИЗМЕНИЛОСЬ
Cohere объявила публичную бету Confidential Computing для управляемого сервиса инференса Model Vault, работающего на NVIDIA GPU (H100) в Microsoft Azure. Функционал добавляет аппаратную изоляцию, защиту памяти GPU и шифрование трафика между CPU и GPU, сквозное шифрование содержимого запросов и удалённую аттестацию, позволяющие криптографически проверить среду выполнения до передачи чувствительных данных.
ПОЧЕМУ СЕЙЧАС
Изменение расширяет защиту на «данные в использовании» для управляемого инференса и предоставляет криптографическое подтверждение (удалённую аттестацию) наличия защит — что позволяет предприятиям запускать более чувствительные задания на облачной платформе, не раскрывая открытый текст инфраструктурным операторам.
КОГО ЗАТРАГИВАЕТ
Предприятия, использующие или рассматривающие Cohere Model Vault для инференса чувствительных данных (в примерах указаны: финансовая информация, врачебные записи, привилегированные документы, проприетарный исходный код, IP). Непосредственно вовлечены Cohere (оператор управляемого сервиса) и Microsoft Azure (поставщик инфраструктуры).
ПОДТВЕРЖДЕНО
• Cohere запустила публичную бету Confidential Computing для Model Vault. • Бета работает на NVIDIA GPU (H100) с инфраструктурой конфиденциальных вычислений Microsoft Azure. • Набор функций включает аппаратную изоляцию, защиту памяти GPU и шифрование трафика CPU↔GPU, сквозное шифрование содержимого запросов и удалённую аттестацию. • Model Vault — это управляемый выделенный сервис инференса, который уже принимает зашифрованные рабочие нагрузки (публичная бета). • Граница конфиденциальности спроектирована так, чтобы охватывать CPU и GPU, защищая память ускорителя и связь CPU↔GPU.
НЕОПРЕДЕЛЁННОСТЬ
Отсутствующие/противоречивые сведения (в источниках нет явных данных): • Географическая/региональная доступность и возможные ограничения на участие в публичной бете. • Ценообразование, модель биллинга и дополнительные расходы за конфиденциальное выполнение. • Влияние конфиденциального выполнения на производительность, задержки и пропускную способность. • Поддерживаемые типы моделей, фреймворки и максимальные размеры моделей. • Точные форматы аттестации, порядок проверки клиентом и доступные инструменты/API для проверки аттестации. • SLA, соответствие нормативам и статус аудита третьими сторонами для этой функции. • Поддерживаются ли все инстансы Azure H100 или только определённые SKU. Эти пункты отсутствуют в предоставленных отрывках.
ЧТО ОТСЛЕЖИВАТЬ
Сигналы для отслеживания: • Обновления блога и документации Cohere для информации по настройке, API аттестации и уведомлениям о регионах/доступности. • Страницы регистрации/участия в бете и заметки о релизе Model Vault. • Страницы Microsoft Azure по конфиденциальным вычислениям и матрица поддержки SKU H100. • Технические документы, документация по безопасности/аттестации или образцы артефактов проверки, опубликованные Cohere. • Бенчмарки производительности, кейсы клиентов или анонсы партнёров с упоминанием развертываний конфиденциального Model Vault.
ПОЧЕМУ ЭТО ВАЖНО
Это позволяет предприятиям запускать чувствительные инференс‑задачи на управляемой платформе с криптографической проверкой среды и защитой данных в процессе вычислений.
КАРТА ДОКАЗАТЕЛЬСТВ
4Редакционные тезисы связаны с конкретными источниками. Отдельно отмечены подтверждения, противоречия и контекст.
Cohere объявила публичную бету Confidential Computing для Model Vault на GPU NVIDIA H100 в Microsoft Azure.
ПОДТВЕРЖДЕНОПроверено 2026-10-22 · 2 подтверждений
Упоминает 'публичную бету' и явно ссылается на 'возможности Confidential Computing для GPU NVIDIA H100' в Microsoft Azure.
ПОДТВЕРЖДАЕТ CohereMEDIA · 2026-10-22Говорит, что Confidential Computing на Model Vault 'сейчас в публичной бете с NVIDIA GPUs на Microsoft Azure'.
Confidential Computing в Model Vault предназначено для защиты данных во время использования, расширяя защиту за пределы данных в покое и при передаче.
ПОДТВЕРЖДЕНОПроверено 2026-10-22 · 2 подтверждений
Объясняет, что Confidential Computing предназначено защищать 'третье состояние: данные в использовании' и расширяет защиту сверх шифрования на хранение и передачу.
ПОДТВЕРЖДАЕТ CohereMEDIA · 2026-10-22Описывает защиту 'данных в использовании', пока приложение или модель их обрабатывает.
Система защищает память GPU и шифрует обмен между CPU и GPU во время инференса.
ПОДТВЕРЖДЕНОПроверено 2026-10-22 · 2 подтверждений
Утверждает, что 'память GPU защищена и трафик между CPU и GPU шифруется по мере выполнения инференса модели.'
ПОДТВЕРЖДАЕТ CohereMEDIA · 2026-10-22Поясняет, что возможности конфиденциальных вычислений на GPU защищают память GPU и позволяют конфиденциальной границе охватывать ускоритель и CPU.
Model Vault поддерживает сквозное шифрование содержимого запросов и удалённую аттестацию, позволяя клиентам криптографически проверять среду выполнения до передачи чувствительных данных.
ПОДТВЕРЖДЕНОПроверено 2026-10-22 · 2 подтверждений
Говорит, что полезные нагрузки приложений 'остаются зашифрованными через промежуточную инфраструктуру и могут быть расшифрованы только внутри аттестованной конфиденциальной среды' и 'проверяйте прежде чем доверять'.
ПОДТВЕРЖДАЕТ CohereMEDIA · 2026-10-22Описывает, что аттестация создаёт 'криптографически подписанные доказательства', которые можно оценить до передачи данных, и упоминает сквозное шифрование содержимого запросов.
ИСТОЧНИКИ И ХРОНОЛОГИЯ
1Now in public beta with NVIDIA Confidential Computing with NVIDIA GPUs on Microsoft Azure, bringing hardware-backed protection and verifiable security to sensitive enterprise AI. Protect data in use: Model Vault extends protection beyond data at rest and in transit to prompts, documents, responses, and model execution while inference is running. Encrypt sensitive request contents end-to-end: Application payloads rema…
How Model Vault combines confidential CPU and GPU execution, end-to-end encrypted request contents, and remote attestation to protect sensitive AI workloads while they are being processed. In our product launch, we introduced Confidential Computing on Cohere Model Vault , now in public beta with NVIDIA GPUs on Microsoft Azure. This article goes deeper into how the system works. The goal is not simply to encrypt infer…