XNews

MIT MAS.S62 第4回・第5回講義、ハーネスとマルチエージェント進化を解説

MIT MAS.S62 第4回・第5回講義、ハーネスとマルチエージェント進化を解説

MITのコースMAS.S62「How to AI an AI」が、ハーネス進化とマルチエージェント進化に関する第4回・第5回講義を公開した。講師はPaul Liang。第4回ではハーネスをコンテキスト、制御、行動、評価、進化の各コンポーネントに分解し、記憶・ツール・スキル研究がMeta-Harnessへ向かう流れをたどる。第5回ではマルチエージェントのスケーリングに関する5つの実証的知見とCORALシステムを提示し、CORALは8つのタスクで単一エージェント進化に対して4%~20%の改善を報告している。

イベントのバージョン 1.

Key insights

ハーネスを5つのコンポーネントに分解

本コースはハーネスをコンテキスト、制御、行動、評価、進化の各コンポーネントとして位置づける。この枠組みは両講義を通底するものである。

記憶の分類と代表システム

記憶研究は、何を保存するか、どのように表現するか、どこに存在するか、さらにどのように再利用するかという3つの軸で整理される。4つのシステムが保存場所によって分類される。外部記憶のMemGPTとmem0、コンテキスト内記憶のMEM1、経験記憶のReflexion/ExpeLである。

Meta-Harnessはハーネスをファイルシステムとして扱う

Meta-Harnessはハーネス全体を、完全なソースコード、スコア、実行トレースを含むファイルシステムとして表現し、提案者が失敗を特定のハーネス決定に遡って追跡できるようにする。そのフィードバック量は1000万トークン対2万6000トークンと、従来手法の約400倍に達する。

マルチエージェントシステムに関する5つの実証的知見

マルチエージェントシステムは特定のタスク構造でのみ有効であり、改善幅はベースモデルによって異なる。エージェントが多いほど常に良いわけではなく、異種混合がより強い単一ベースを上回る場合があり、スケーリング則は最適アーキテクチャを87%の精度で予測する。

CORALはマルチエージェントの共進化を可能にする

CORALは数学、アルゴリズム、システム最適化を含む8つのタスクで新たな最先端を達成した。マルチエージェント進化は単一エージェント進化に対して4%~20%の改善をもたらし、進化試行の36%が別のエージェントを親として使用し、それらの試行の改善率は17%である。

Source posts