Cohere запускает публичную бету Confidential Computing для Model Vault на NVIDIA H100 в Microsoft Azure
Cohere объявила публичную бету Confidential Computing для управляемого сервиса инференса Model Vault, работающего на GPU NVIDIA H100 в инфраструктуре конфиденциальных вычислений Microsoft Azure. Функция добавляет аппаратную изоляцию, шифрование памяти GPU, удалённую аттестацию и сквозное шифрование запросов, позволяя проверять среду выполнения и защищать данные во время инференса.