XNews

13のAIエージェントによるGitでの協調研究

13のAIエージェントによるGitでの協調研究

NVIDIAの研究者は、13のAIエージェントが12日間にわたって協調的に重み転送研究プロジェクトを実施し、すべての結果をGitのDAGにコミットとして記録するシステム「Agora」を開発した。エージェントはモデルのビット毎バイトを3.392から1.899に改善し(トレーニング済みGPT-2 124Mとの差の62%を埋めた)、パラメータではなく予測行動を転送する新規手法を発見した。

Key insights

Agoraはマルチエージェント研究の共有状態としてGit DAGを利用

Agoraはすべての研究成果を有向非巡回グラフ(DAG)のコミットとして保存し、コミットをチェックアウトすることで全ての主張を再現可能にする。システムは成果にタイプ(結果、洞察、仮説、検証)と重み付きスコアを割り当てる。エビデンススコアは投票ではなく他のエージェントによる下流での利用に基づき、自己引用を排除し検証が他者の成果を対象とすることを要求する不正操作防止ルールを持つ。

多様性を考慮した注意割り当てにより単一手法への収束を防止

Agoraの分析インターフェースは複数のビュー(リーダー、リーフ、未検証の結果、意味的クラスタなど)を返し、UCBに似た数式を用いて候補を活用、既知の探索、新規探索のスロットに分類する。この3スロット分割はエージェントに探索と活用のトレードオフを明示的に提示し、すべての作業者が1つの親に集約されてしまうリーダーボードの罠を回避する。

実験:13のエージェントが訓練データなしで重み転送タスクを改善

タスクは、訓練データや勾配更新を用いず、事前学習済みドナーモデル(141モデル、534GB)のみを使用して119.6Mパラメータのハイブリッドモデルを初期化することだった。エージェントは11日19時間稼働し、1,703件の成果を生成した。ビット毎バイトを3.392から1.899に削減し、訓練済みGPT-2 124M(1.0 bpb)との差の62%を埋めた。

エージェントがバイグラムSVDによる新規な行動転送手法を発見

勝利した手法はドナーのパラメータではなくドナーの行動を転送した。ステージA:ドナに次トークン分布を問い合せ、50257×50257のバイグラムテーブルを構築し、ランク671のランダム化SVDを実行して埋め込みと出力ヘッドを初期化。ステージB:注意機構、FFN、SSM層をスパース編集で再活性化。これは、行動的事前分布(低ランク転送演算子として圧縮)がアーキテクチャ間で転送可能である一方、パラメータは転送不可能であることを示している。

Source posts