XNews

企業向けRAG、メモリエンジンおよびプロンプト転送ツール

企業向けRAG、メモリエンジンおよびプロンプト転送ツール

研究とツールは、企業向けRAGの限界、高性能な情報検索システム、メモリエンジン、およびプロンプト転送ソリューションを強調しています。

Key insights

RAG研究は生産展開の遅れと5つの繰り返し発生する企業課題を示す

2015年から2025年までの77件のRAG+LLM研究の文献レビューは、技術的な採用が強いこと(63.6%がGPTバリアントを使用、80.5%がFAISS/Elasticsearchを使用、66.2%がクラウドスケーリングに依存)を示していますが、企業での展開は限られており、実際のプロトタイプを持つのはわずか13%でした。繰り返し発生する課題には、幻覚の制御(48.1%)、データのプライバシー/セキュリティ(37.7%)、レイテンシとスケーラビリティ(31.2%)、ドメイン適応(23.4%)、ビジネスインパクトの定量化の難しさ(15.6%)が含まれます。このレビューは、事実性と説明可能性を向上させるためにドメインのファインチューニングとハイブリッド検索戦略を推奨しています。

Index: エージェント向けミリ秒検索のための設計選択

OpennoteのIndexエンジニアリング投稿は、エージェントと個人の知識のために最適化された生産検索スタックを説明しています:Postgresにpgvector+pg_trgm+tsvector、グローバルCloudflareエッジランタイム、選択的再埋め込みを伴うチャンクハッシング、動的フィルタリング、および正確なヒットと意味的ヒットの両方をサポートする三層キャッシュを使用しています。このシステムは、標準的な検索指標でChromaDBに匹敵またはそれを超えるP99レイテンシを約209〜300msで達成し、動的フィルタリング、マルチテナントの分離、低レイテンシのグローバル操作を優先しています。

MemoriはLLM向けのSQLネイティブメモリプリミティブを提供

Memoriは、標準SQLデータベースに会話メモリを永続化するためのワンライインテグレーション(memori.enable())を提供するオープンソースのSQLネイティブメモリエンジンです。エンティティを抽出し、メモリタイプ(意識的、自動、組み合わせ)を分類し、短期記憶への定期的な凝縮をサポートし、OpenAI、Anthropic、LiteLLM、およびさまざまなエージェントフレームワークと統合します。この設計は、不透明なベクトルストアよりも監査可能でユーザー所有のストレージを重視しています。

PromptBridgeは再訓練なしでモデル間のプロンプト移植性を実現

PromptBridge(アクセンチュア)は、ペアリングされた最適プロンプトの例を用いてキャリブレーションすることにより、あるモデルから別のモデルへの高性能プロンプトを変換するためのゼロトレーニングフレームワークを提案しています。このアプローチは、小さなキャリブレーションセットを使用し、マッピングを学習することで、モデルAに最適化されたプロンプトをモデルBに自動的に変換できるようにし、コスト、プライバシー、または能力の理由でモデルを切り替える際の手動プロンプトエンジニアリングの必要性を減少させます。

ハイブリッド検索とドメインファインチューニングが事実性の向上をもたらす

レビューとエンジニアリングの報告は、ハイブリッド検索(密なベクトルと知識グラフの組み合わせ)およびドメインファインチューニングが通常、事実性と説明可能性を向上させることを指摘しています。ドメイン特有のファインチューニングは、事実測定でゼロショットを約10〜20%上回ります。ハイブリッド検索は約23.1%の研究に現れ、精度と解釈可能性を改善します。

Source posts