XNews

エージェントインフラストラクチャ:メモリ、コンテキスト圧縮、検索およびプロンプトブリッジ

エージェントインフラストラクチャ:メモリ、コンテキスト圧縮、検索およびプロンプトブリッジ

複数のプロジェクトが、信頼性の高い長時間稼働するエージェントのために、エージェントメモリ、検索遅延、コンテキスト圧縮、プロンプトのポータビリティを進展させています。

Key insights

コンテキスト圧縮は実行可能なアーティファクトを保持する必要がある

エージェント圧縮戦略の評価は、極端な圧縮がタスクに重要な低エントロピーの詳細(ファイルパス、エラーストリング)を失う可能性があることを示しています。ファクトリーの構造化された永続的要約(意図、ファイルの変更、決定、次のステップ)を維持するアンカリングされた反復要約は、リコール、アーティファクト追跡、継続といったプローブメトリクスにおいて、OpenAIの最高圧縮手法やAnthropicの完全再要約アプローチを上回りました。

インデックスはエージェント向けにミリ秒レベルの検索を構築する

インデックスは、個人の知識ベースに対するエージェント使用向けに調整された動的なミリ秒スケールの検索システムです。Postgresをpgvector/pg_trgmとともに使用し、Cloudflare上のグローバルエッジランタイム、変更ハッシュを用いたチャンク化された取り込み、三層キャッシュ無効化を利用して、P99 < 300msを達成し、堅牢なフィルタリング、混合セマンティック/キーワードランキング、マルチテナントの動的データに対するライブ更新を実現しています。

メモリはSQLネイティブで監査可能な永続メモリを提供する

メモリは、エージェントのメモリを標準SQLデータベースに永続化するオープンソースのSQLネイティブメモリエンジンです。事実、好み、スキルといったエンティティとメモリタイプを抽出し、定期的なバックグラウンド蒸留を伴う意識的/自動/組み合わせモードをサポートします。統合にはワンライ呼び出しが必要で、メモリを監査可能でユーザーが所有できるものにすることを目指しています。

プロンプトブリッジは再訓練なしでモデル間のプロンプトを翻訳する

プロンプトブリッジは、高性能なプロンプトを一つのモデルから別のモデルにマッピングするためのゼロトレーニングフレームワークを導入します。MAP-RPE反射技術を使用して小さなペアサンプルセットでキャリブレーションを行い、その後、見えないタスクに対してターゲットモデル互換のプロンプトを生成するマッピングを学習し、モデル変更に伴うプロンプトエンジニアリングの手動コストを削減します。

Source posts