XNews

Ada报告称在Model Vault上使用Cohere Embed实现77毫秒检索延迟

Ada通过在Model Vault上使用Cohere Embed,实现了77毫秒的中位检索延迟、离线嵌入的每美元吞吐量提升2.7倍、向量存储占用缩小4倍且检索性能无可测量的下降,以及90.7%的前10召回率。这些结果支持更快、更准确的AI语音交互和更具成本效益的信息检索。

事件版本 1.

Key insights

低检索延迟

Ada使用Model Vault上的Cohere Embed记录了77毫秒的中位检索延迟。该延迟支持更快、更准确的AI语音交互。

更高的每美元嵌入吞吐量

离线嵌入实现了每美元吞吐量提升2.7倍。这一增益提高了成本效率。

更小的向量存储

向量存储占用缩小了4倍,且检索性能无可测量的下降。

强大的检索召回率

Ada报告了90.7%的前10召回率,以实现准确的信息检索。

Source posts