XNews

Cohere Model VaultがAzure GPU上のNVIDIA機密コンピューティングでパブリックベータ版に

Cohere Model VaultがAzure GPU上のNVIDIA機密コンピューティングでパブリックベータ版に

Cohereは、専用推論プラットフォームであるModel Vaultがパブリックベータ版で利用可能になったと発表した。この提供は、NVIDIA機密コンピューティングとMicrosoft Azure上のGPUを組み合わせ、ユーザーが情報を安全に保ちながらCohereモデルを実行できるようにする。

イベントのバージョン 1.

Key insights

パブリックベータ版の可用性

CohereのModel Vaultがパブリックベータ版で利用可能になった。このプラットフォームはCohereの専用モデル推論提供である。

機密コンピューティングの統合

Model VaultはNVIDIA機密コンピューティングを使用してモデル実行中に情報を安全に保つ。Microsoft Azure上のGPUがコンピューティングを提供する。

あらゆるユーザー向けの安全なモデル推論

Cohereは、誰でも情報を安全に保ちながらModel Vault上で同社のモデルを実行できると述べた。

Source posts