XNews

AIエージェント向けの高性能検索およびキャッシュシステム

AIエージェント向けの高性能検索およびキャッシュシステム

AIエージェント向けの検索およびキャッシュシステムに関する進展: - OpennoteのIndexは、AIエージェント向けに設計されたミリ秒単位の動的文書検索システムで、目標はP99 < 300ms。 - Indexは主流のベクトルライブラリではなく、Postgres(pgvector + pg_trgm + tsvector)を採用し、メタデータフィルタリングを通じて候補セットを事前に絞り込み、実測でP99を475msから209msに低減しました。 - Indexはグローバルエッジで運用され(Cloudflare Workers + Hyperdriveなど)、無状態のインジェスチョンパイプラインと変更ハッシュを使用して、変更されたチャンクのみを再計算し、キャッシュの無効化をトリガーします。 - 三層キャッシュメカニズム:正確なキャッシュ、セマンティックキャッシュ、逆インデックス無効化を実現し、高いヒット率を維持しつつデータの最新性を保証します。 - MemoriはオープンソースのSQLネイティブメモリエンジンで、1行での有効化、エンティティのスマート抽出、さまざまなメモリモード、および定期的な意識エージェントのバックグラウンド精製をサポートします。 - Redis for AIは、ベクトルライブラリ、長期/短期メモリ、セマンティックキャッシュ、セマンティックルーティングを提供し、速度、コスト、リアルタイム性において優位性を主張し、ML特徴ストレージと統合されています。 - Acontextは、エージェントのコンテキストデータプラットフォームを提供し、タスク観察、自学習メカニズム、およびSOP精製を行い、長期的かつ安定したエージェントの行動改善を容易にします。

Key insights

Index:エージェント最適化のための検索エンジン設計

Opennoteの創業者が紹介したIndexは、AIエージェントによる個人知識ベースでの超低遅延かつ高精度な検索を目的に設計されており、Postgres + pgvector/pg_trgm/tsvectorを選択して、データベース内で強力なフィルタリングを行った後に全文検索とベクトル検索を並行して実施します。IndexはCloudflareのエッジで運用され、無状態のインジェスチョンプロセスと変更ハッシュを採用し、変動するチャンクのみを再計算して埋め込みを行い、P99 < 300msの目標と実測209msのP99を達成しています。

Indexの三層キャッシュ戦略が時効性と高ヒット率を確保

Indexは、正確なキャッシュ(同一のクエリ+フィルターヒット)、セマンティックキャッシュ(クエリ埋め込みに基づく)、および逆インデックス無効化(チャンク記録に関連するキャッシュを文書の変動時に積極的に無効化)という三層メカニズムを採用しており、データベースの負荷を軽減しつつ、古いコンテンツの返却を防ぎ、動的編集およびマルチテナントフィルタリングのシナリオに適応しています。

Memori:SQLネイティブメモリエンジンの1行統合

MemoriはオープンソースのSQLネイティブメモリエンジンを提供し、memori.enable()を通じてメモリをユーザーが制御可能なSQLデータベースに保存し、自動的にエンティティを抽出し、意識/自動/組み合わせなどのメモリモードをサポートします。アーキテクチャはインターセプターを採用し、事前呼び出しで関連メモリを注入し、後呼び出しで新情報を抽出し、定期的に意識エージェントがバックグラウンド最適化を実行します。

Redis for AIとセマンティックキャッシュコースがエンドツーエンドの性能を強調

RedisはRedis for AIを発表し、高速ベクトル検索、長期/短期メモリ、セマンティックキャッシュ、セマンティックルーティングを統合し、LangChainなどのエコシステムとの互換性を提供し、リアルタイム、マルチエージェント、パーソナライズされたシナリオに適しています。また、RedisはDeepLearningAIと共同で「AIエージェントのためのセマンティックキャッシング」コースを提供しています。

Acontext:タスク観察からSOP精製までのコンテキストプラットフォーム

Acontextは、エージェントのインタラクション、タスク実行、成果物を集中して保存し、バックグラウンドタスク観察者がSOPを抽出し、それをスキルライブラリとして後続の検索再利用に供します。多モーダル会話やOpenAI/Anthropicなどの複数のプロバイダーとの統合をサポートし、エージェントの長期的な信頼性と再利用性を向上させることを目指しています。

Source posts