Googleの研究者らが安定した自己改善型エージェントハーネスのためのGUARDを発表

Google Cloudの研究者らは、基盤モデルを凍結したまま、自律型AIエージェントが自身のプロンプト、スキル、ツールルール、メモリを編集できるようにする、グレーダー不要の閉ループフレームワークGUARDを発表した。GUARDは各タスクを実行前の自己チェックに分解し、方向性のある後悔(directional regret)を用いて、編集の利得が壊す行動を上回る場合にのみ編集を承認する。43のホスト型SDKタスクで、GUARDは80.80%の精度に達し、開始時のハーネスを8.89ポイント上回り、タスクあたり54.5%少ないトークンを使用した。
イベントのバージョン 1.
Key insights
後悔に導かれた編集
GUARDは各タスクを実行前の自己チェックに分割し、各ラウンドでそれらに対して軌跡を評価する。エージェントが習得したルールを固定し、新たに壊された行動を最初にランク付けすることで、回帰を可視化する。
Soft-HURTゲート
並列の候補編集は、批評家不要のグループ相対適合度によって比較され、Soft-HURTゲートは、ゲートされたバッファ上での回帰を利得が上回る場合にのみ編集を昇格させる。2つの候補を並列にプールすることで、同じ予算での逐次探索と比較して、拒否されたゲートラウンドを64%削減した。
汚染のないメモリ
手続き的メモリタスクで、GUARDはタスク精度83.0%、更新正確性90.1%、手続き的汚染0.000で首位となった。Meta-Harnessのような積極的なリライターは同様の更新スコアに達したが、汚染は3倍であった。
ホスト型SDKの結果
43のテストタスクで、GUARDは80.80%の精度に達し、開始時のハーネスを8.89ポイント(ペアp = 0.008)、Meta-Harnessを6.28ポイント上回り、タスクあたり54.5%少ないトークンを使用した。テスト時には、1つの凍結されたハーネスがシングルパスで実行される。