Google Cloudによる長時間稼働エージェントハーネスのための5つのデザインパターン

長時間稼働エージェントハーネスにおける5つの実運用上の障害に対処するデザインパターンが示された。(1) 安定プレフィックス—システムプロンプトのレイヤーを変更頻度に応じて固定し、95%のプロンプトがキャッシュにヒットするようにする。キャッシュトークンがゼロの場合、プレフィックスは移動している。(2) バックグラウンド学習—メモリ抽出をインラインから非同期書き込み遅延に切り替え、強力なタスク参照、独立したサブエージェント、120秒のデバウンスを設定して処理の遅延を防ぐ。(3) 永続ワークスペース—ワークスペースをセッションではなくユーザー単位で分割し、デプロイメントでインストール済みツールが消去されないようにする。生存性を判断するために502のような共有ステータスコードを使用しない。(4) 明示的障害—各終了状態(タイムアウト、ステップ枯渇、承認待ち、完了)に名前を付け、サマリーを「INCOMPLETE: 完了として報告しない」と書き換える。ラウンドあたり200回のツール呼び出し、セッションあたり50ラウンドのハードリミットを強制する。(5) ガードチェーン—比較前に入力を正規化し、コストでショートサーキットする:出力ガード(ハードブロック)、ポリシーガード(許可/確認/拒否)、人間による確認(最も高コスト)。ガードチェーンにはモデルは関与せず、資格情報はガードが突破されることを前提に設計され、環境インジェクションとプレースホルダートークンを使用する。