Anthropic: エージェント評価と長期エージェント設計

Anthropicは、エージェント評価と長期エージェント設計に関するエンジニアリングガイダンスを発表しました。主なポイントは以下の通りです:- Anthropicは、エージェントの自律性と柔軟性が評価の難易度を増すという核心的な評価矛盾を特定しました。- 評価の分類法:タスク、グレーダー、トランスクリプト、ハーネス;評価はエージェントとツールの組み合わせを対象とします。- タスク:非決定的な出力は繰り返し試行を必要とします。- グレーダー:タスクごとに複数のグレーダー;各グレーダーには複数の主張が含まれます。- トランスクリプト:ツールコール、推論、中間状態を記録;真の検証は環境の状態です。- ハーネス:エンドツーエンドの評価フレームワークが試行を実行します。- エージェント評価の進展:手動テスト → CI/CD自動化 → プロダクションモニタリング + A/Bテスト。- エージェントタイプには特化した評価者が必要です:プログラミング、会話、研究、GUI/計算エージェント。- 非決定的メトリクス:pass@k(いずれかの成功)対 pass^k(すべての試行が成功);選択が重要です。- 20〜50の実際の失敗タスクから始める評価スイート構築のための8ステップのロードマップ。- 長期エージェント:Anthropicは単一のコンテキスト圧縮を拒否し、外部化された状態を推奨します。- 二重エージェントリレー:初期化エージェントが構造化されたfeature_list.jsonを作成;コーディングエージェントは厳格なスタートアップシーケンスに従います(pwd、ログを読み取り、init.shを実行、回帰を実行)。- エンジニアリングプラクティス:段階的な開発を強制し、Puppeteerの視覚的フィードバックループ、Gitコミットを高信号のコミュニケーションとして使用します。- 実用的なツール:中間ファイル状態を持続可能にするためにBashを推奨し、再現性、検証、合成を可能にし、レイヤー化された権限管理とパーサー保護を提供します。
Key insights
評価はエージェント+ツールをテストユニットとして扱うべき
Anthropicは、自動評価をエージェントとそのツールの組み合わせを評価するものとして位置付けており、モデル単体ではありません。評価の分類法には、タスク(具体的なテストケースと成功基準)、グレーダー(複数の主張を持つ1人以上の採点者)、トランスクリプト(ツールコールと中間状態の完全な記録)、ハーネス(エンドツーエンドの実行者)が含まれます。Anthropicは、トランスクリプトと実際の環境状態が検証基準であり、エージェントの主張ではないことを強調し、環境を安定させ、可能な限り決定論的なグレーダーを好むことを推奨しています。
非決定的メトリクスは信頼性目標に合わせて選択する必要がある
Anthropicは、非決定的エージェントの振る舞いを測定するためにpass@kとpass^kを導入し、区別しています。pass@kはk回の試行のうち少なくとも1回成功する確率を測定し、pass^kはすべてのk回の試行が成功する確率を測定します。Anthropicは、これらはk=1で収束するが、kが高くなると乖離することに注意し、探索的生成と生産の信頼性というユースケースに合わせたメトリクスの選択を推奨しています。
小さく始めて手動チェックを自動評価に変換する
Anthropicは、20〜50の実際の失敗ケースから早期に始め、既存の手動チェックを正式なテストに変換し、2人の専門家が独立して判断できる明示的なタスクとリファレンスを作成し、ポジティブとネガティブなテストケースのバランスを取り、安定した環境を確保し、スコアリングを慎重に設計(決定論的なものを好む)、トランスクリプトを検査し、100%の合格がもはや改善を示さないところで飽和を監視するという8ステップのロードマップを推奨しています。
長期エージェントは状態を外部化すべき;コンテキスト圧縮は不十分
Anthropicは、数時間または数日のエージェントに対して単に拡張されたコンテキストウィンドウに依存することを拒否しています。彼らのアプローチは、認知状態を構造化されたアーティファクトとツールに外部化し、Gitやタスクトラッカーのようなソフトウェアエンジニアリングのプラクティスを反映させることで、連続するエージェントインスタンスが暗黙のモデルメモリに依存するのではなく、構造化された状態を読み取り、持続することを可能にします。
リレーアーキテクチャ:初期化エージェントとコーディングエージェントが構造化されたハンドオフを強制
Anthropicは二重エージェントリレーを説明しています。初期化エージェントが閉じた一貫した環境を作成し、feature_list.jsonを作成(構造化され、カテゴリ/説明/ステップ/合格を含み、初期値はpasses:falseに設定)し、コーディングエージェントは厳格なスタートアップシーケンスに従います—pwd、進捗およびgitログを読み取り、feature_list.jsonを読み込み、init.shを実行し、ベースラインを確認—各インクリメントごとにpasses:trueに切り替える単一の機能のみを変更します。これにより、段階的な開発が強制され、自由形式のテキストのハンドオフからの幻覚リスクが低減されます。
Bashとファイルシステムアーティファクトが再現性と監査可能性を向上させる
Anthropicのエンジニアとコミュニティの貢献者は、エージェントにBashとファイルI/Oを提供して中間結果を持続させることを推奨しています:ツール → ファイルを書き込む → grep/フィルタリング → モデル処理。これにより、再現可能で検証可能、かつ合成可能なワークフローが得られます。Anthropicは、この機能を権限付きコマンド解析とレイヤー化された制御と組み合わせて、コマンドインジェクションや危険なアクションを軽減します。