XNews

构建一个‘有据可查’的文档问答代理

构建一个‘有据可查’的文档问答代理

一份构建文档问答代理的指南,该代理能够提供带有页码和来源片段的可验证答案。其流程使用LlamaParse进行布局感知解析、本地嵌入和LLM,以及CitationQueryEngine进行内联引用。关键见解在于:解析质量是答案准确性的上限。

Key insights

技术流程

该流程包括:使用LlamaParse进行云端解析,生成带有页面元数据的布局感知Markdown;通过Ollama使用nomic-embed-text进行本地嵌入;LlamaIndex向量索引;检索前4个文本块;使用本地qwen3:4b-instruct进行生成;以及CitationQueryEngine进行内联引用[1][2]。用户界面显示页码、检索到的文本、查询高亮和相关性评分。

关键技术要点

解析是上限:基本的文本提取在双栏论文、财务表格和扫描文档上会失败。引用粒度是一种权衡:512字符的文本块平衡了精确性和上下文。引用并不保证正确性:如果解析错位了表格值,即使页码引用正确,答案也是错误的。验证用户界面使得流程可调试。

Source posts