XNews

ContextPilotフレームワークにより、32Kコンテキストの8Bモデルが128Kベースラインを凌駕

ContextPilotフレームワークにより、32Kコンテキストの8Bモデルが128Kベースラインを凌駕

清華大学、テンセント優図実験室、上海AI実験室の研究チームは、エージェントが自らのコンテキストを能動的に管理できるようにするフレームワーク「ContextPilot」を発表した。本フレームワークは、従来手法における三つの欠点(ツールセットの狭さ、強化学習訓練での一様な探索、粗いクレジット割り当て)に対処する。具体的には、計画、長期記憶、ソフトオフローディングツールを追加し、教師モデルを用いてSFTデータを合成し、強化学習においてコンテキストを考慮した部分ロールバックと細粒度のクレジット割り当てを導入する。ContextPilotと32Kコンテキストウィンドウを備えた8Bモデルは、長文書QAで平均69.4を達成し、128KウィンドウのベースラインQwen3-8Bの45.9を上回った。深層検索タスクでは、トークン効率が1ターンあたり約30Kから8~10Kに向上した。

Source posts