XNews

AIエージェントのためのコンテキストエンジニアリングのベストプラクティス

AIエージェントのためのコンテキストエンジニアリングのベストプラクティス

複数のエンジニアリング記事がAIエージェントおよびメモリシステムのためのプロダクションコンテキスト戦略を概説しています。

Key insights

ChatGPTは四層のメモリとコンテキストアーキテクチャを採用

分析によると、ChatGPTはメモリを四層に構成しています:環境コンテキストのためのセッションメタデータ、長期的な事実のための永続的なユーザーメモリストア、約15の最近の会話の要約、そしてスライディングエビクションを伴う現在のセッションウィンドウです。この設計は、すべてのリクエストで重いベクトル検索を回避することにより、パーソナライズとレイテンシ、コストのバランスを取っています。

コンテキストエンジニアリングはプロンプトを動的なコンパイルビューとして再定義

WeaviateおよびGoogle ADKの資料は、コンテキストエンジニアリングを、ソースデータをLLMのための作業ビューにコンパイルするパイプラインを構築することと定義しています。ADKは、レイヤー化されたコンテキスト(作業、セッション、メモリ、アーティファクト)、プロセッサーチェーン、関連性管理、レイテンシを制御しコンテキスト汚染を避けるためのオンデマンドアーティファクトロードを処方しています。

運用パターンは長期エージェントの劣化を軽減

ManusおよびAnthropicのエンジニアリングノートは、運用戦術を推奨しています:KVキャッシュの再利用を保護するためのプレフィックスフリーズ、モデルの注意に重要な状態を保持するための明示的な状態再現、負のコンテキストトレーニングのためのエラーログの保存、システムプロンプトにツール定義を詰め込むのを避けるためのツール検索、そして長期間のタスクのための耐久性のあるアンカーを作成するためのデュアルエージェントアーキテクチャです。

ツールとリトリーバルは分離され、動的にロードされるべき

著者はツール定義をスリム化し、エージェントが特定のツール定義をオンデマンドでのみロードするようにツール検索を実装することを推奨しています。リトリーバルは簡潔で関連性のある素材を返し、アーティファクトはインラインではなく名前/バージョンで参照されるべきです。これにより、コンテキスト汚染を避けることができます。

Source posts