Ada报告称在Model Vault上使用Cohere Embed实现77毫秒检索延迟
Ada通过在Model Vault上使用Cohere Embed,实现了77毫秒的中位检索延迟、离线嵌入的每美元吞吐量提升2.7倍、向量存储占用缩小4倍且检索性能无可测量的下降,以及90.7%的前10召回率。这些结果支持更快、更准确的AI语音交互和更具成本效益的信息检索。
事件版本 1.
Key insights
低检索延迟
Ada使用Model Vault上的Cohere Embed记录了77毫秒的中位检索延迟。该延迟支持更快、更准确的AI语音交互。
更高的每美元嵌入吞吐量
离线嵌入实现了每美元吞吐量提升2.7倍。这一增益提高了成本效率。
更小的向量存储
向量存储占用缩小了4倍,且检索性能无可测量的下降。
强大的检索召回率
Ada报告了90.7%的前10召回率,以实现准确的信息检索。