Anthropicのプラットフォーム責任者ケイトリン・レス氏、マルチエージェントシステムにはインフラ、アイデンティティ、分離、キルスイッチの解決が必要とエンジニアに語る

Anthropicのプラットフォーム責任者ケイトリン・レス氏は、エンジニアのアイデンティティ危機は誤解されていると述べ、信頼できるマルチエージェントの成果は依然として人間がインフラ、アイデンティティと認可、セキュリティ分離、可観測性、キルスイッチを正しく実装できるかどうかにかかっていると指摘した。同氏は4つの未解決問題領域を特定した。Kubernetesを超えたエージェント専用インフラ、代理認可とエージェントアイデンティティ、横方向の指示拡散に対するサンドボックス分離、システム全体のキルスイッチを備えたクロスエージェントトレーシングである。
イベントのバージョン 1.
Key insights
インフラには新しいアプローチが必要
Kubernetesはステートレスなレプリカや安定した番号を持つステートフルなポッドに適しているが、エージェントは分離されたステートフルな単一インスタンスのワークロードであり、ツール、推論、他のエージェント、または人間を待って長時間アイドル状態になる可能性がある。GoogleのAgent Substrateのような新しいファイルシステム、サンドボックス、ランタイムが開発されており、まだ大きな余地が残されている。
アイデンティティと認可は未解決のまま
ワークロードアイデンティティと短命証明書がエージェントに適用され始めているが、認可はあまり確立されていない。ほとんどのエージェントは人間の資格情報を使用して人間の代理として行動するため、システムは人間の行動とエージェントの行動を区別する必要があり、数週間にわたる実行における意味のある代理同意には、自動ツール呼び出し承認よりも深い権限モデルが必要である。
分離はシステムレベルの影響範囲を制限する
中核的なソフトウェア脆弱性はパッチよりも速く出現しており、信頼できないコードを書き、信頼できないコンテンツを読む数千の永続エージェントを実行することは、未パッチの欠陥の危険性を増幅させる。侵害されたエージェントは、後のエージェントがメモリから信頼する注入された指示をピアに渡す可能性があるため、アクションは強く分離されたサンドボックスで実行されるべきである。
監視とキルスイッチが必要
クロスエージェントのOTelトレーシングが必要であり、エージェントは自分自身または他のエージェントのトレースを変更できてはならない。監視トリガーのキルスイッチはシステム全体を停止し、資格情報を一度に切断する必要があるが、善意の永続性と悪意のある行動を区別するのは困難である。