VikingRAG:降低令牌成本的高效RAG方法

一种名为VikingRAG的新型RAG方法,将令牌消耗降至最先进方法的5%–32%,同时匹配或超越其准确性。该方法解决了结构化文档检索的高令牌成本问题。关键设计包括:分层语义存储(文档按结构节点分块,使用类似viking://Pasta/Carbonara/的URI)、证据差距驱动的多轮检索(智能体判断证据是否充分,最多15轮),以及带有自适应升级的经验边(复用历史检索路径,仅在必要时升级为完整多轮)。在6个数据集(0.24M–8.78M令牌)上使用DeepSeek-V4-Pro及其他模型进行测试。基础版VikingRAG的令牌使用量为最先进方法的11.6%–51.9%;VikingRAG-E+进一步降至5.1%–32.5%。传统图方法在大型数据集上超时。
Key insights
分层存储消除线性目录开销
VikingRAG不将整个文档结构放入提示词中,而是将所有结构信息存储在外部可查询对象中。URI编码了祖先-后代关系。只有被访问的片段会产生令牌成本,从而解决了DeepRead的线性增长问题。
证据差距驱动的检索达到SOTA精度
智能体在每次工具调用(搜索、列表、Grep、读取)后评估证据,仅在证据不足时继续。该设计将粗定位与细验证分离,每一步都缩小搜索空间。
经验边与自适应升级进一步降低成本
VikingRAG-E存储历史检索中的边,使新查询能够复用路径(节省12%–33%的令牌)。VikingRAG-E+仅在基于约束的验证失败时升级为完整多轮,额外节省19%–50%的令牌。
可扩展至大型文档集合
当文档从仅相关文档增加到总计991篇时,VikingRAG的性能保持稳定,而传统图方法在大型数据集上超时。插入延迟与DeepRead/MoDora相当,且快于图方法。