Cohere Model VaultがAzure GPU上のNVIDIA機密コンピューティングでパブリックベータ版に

Cohereは、専用推論プラットフォームであるModel Vaultがパブリックベータ版で利用可能になったと発表した。この提供は、NVIDIA機密コンピューティングとMicrosoft Azure上のGPUを組み合わせ、ユーザーが情報を安全に保ちながらCohereモデルを実行できるようにする。
イベントのバージョン 1.
Key insights
パブリックベータ版の可用性
CohereのModel Vaultがパブリックベータ版で利用可能になった。このプラットフォームはCohereの専用モデル推論提供である。
機密コンピューティングの統合
Model VaultはNVIDIA機密コンピューティングを使用してモデル実行中に情報を安全に保つ。Microsoft Azure上のGPUがコンピューティングを提供する。
あらゆるユーザー向けの安全なモデル推論
Cohereは、誰でも情報を安全に保ちながらModel Vault上で同社のモデルを実行できると述べた。