XNews

「根拠のある」文書QAエージェントの構築

「根拠のある」文書QAエージェントの構築

ページ番号とソーススニペットを用いて検証可能な回答を提供する文書QAエージェントの構築ガイド。このパイプラインは、レイアウトを考慮した解析にLlamaParse、ローカル埋め込みとLLM、インライン引用にCitationQueryEngineを使用する。重要な洞察は、解析品質が回答精度の上限であることである。

Key insights

技術的パイプライン

パイプライン:LlamaParseによるクラウド解析でページメタデータ付きのレイアウト認識型Markdownを生成、Ollama経由のnomic-embed-textによるローカル埋め込み、LlamaIndexベクトルインデックス、上位4チャンクの検索、生成にローカルのqwen3:4b-instruct、インライン引用にCitationQueryEngineを使用[1]、[2]。UIはページ番号、取得テキスト、クエリハイライト、関連性スコアを表示する。

主要技術ポイント

解析が上限:基本的なテキスト抽出では、2段組の論文、財務表、スキャン文書で失敗する。引用の粒度はトレードオフ:512文字のチャンクが精度と文脈のバランスを取る。引用は正確性を保証しない:解析が表の値を誤って配置すると、正しいページ参照があっても回答は間違ったものになる。検証UIによりパイプラインのデバッグが可能になる。

Source posts