AIの再帰的自己改善の進展に関する複数の分析レポート

Google DeepMind、Databricks、Anthropic、NVIDIAが発表した最近のレポートは、AIの再帰的自己改善(RSI)の現状を分析している。GoogleのDream-RSIはエージェント呼び出しを最大162倍削減。DatabricksのCEOはRSIの基準は未達成であり、真のリスクはAIによるサイバー攻撃だと主張。Anthropicの内部ダッシュボードでは、研究開発タスクの26%がAI主導で行われている。NVIDIAのAgoraシステムでは、13のエージェントが12日間協力してモデルを改善した。
Key insights
Google DeepMindのDream-RSI:過去の発見プロセスを再現
Dream-RSIは過去の発見プロセスを再生し、低コストで数千の探索戦略をテストし、より優れた戦略を次のラウンドにフィードバックする。アルゴリズム設計、数値最適化、GPUカーネル工学において、結果の品質を維持または向上させつつ、エージェント呼び出しを最大162倍削減した。これは閉ループ型の自己改善機構を示している。
Databricks CEO:RSI基準は未達成、真のリスクはサイバー攻撃
Ali Ghodsi氏はRSIの4つの条件(計算量削減、時間短縮、知能向上、再現可能性)を提唱した。その上で、現在これらすべては満たされていないと主張。訓練費用は約1億ドルから50~100億ドルに上昇し、時間は長期化し、失敗も発生している。同氏は存在論的リスクを「ほぼゼロ」とし、AIによるサイバー攻撃が真の脅威であり、CVEから兵器化までの時間が数時間に短縮されていると強調した。
Anthropicの内部ダッシュボード:研究開発タスクの26%がAI主導
Anthropicは3つの指標を公表した。(1) 研究開発自動化指数:研究開発タスクの26%がAI主導(AL4)、90%以上がAIの深い関与あり、AL5はゼロ。(2) エージェント監視:3万のエージェントが同時稼働し、行動の100%がオンラインで監視され、介入率は0.002%、週約50件の会話が人間による審査にエスカレーションされる。(3) 計算リソース配分:AI研究開発用計算リソースの6%が安全性業務に割り当てられている。これらは加速の傾向を追跡するためのベースラインを提供する。
NVIDIAのAgora:Gitベースの共有状態によるマルチエージェント協調研究
Agoraは研究をGitベースの有向非巡回グラフ(DAG)として扱い、各主張をコミットとみなす。13のコーディングエージェント(Claude Code + Codex)が中央計画なしで12日間稼働し、1,703件の貢献を生成。モデルのbpb(ビット・パー・バイト)を3.392から1.899に改善し、訓練済みGPT-2 124Mとの差の62%を埋めた。勝利した手法はパラメータではなく行動知識(バイグラム分布)を転送するものであり、科学的に新規な発見であった。
AI自己改善の5段階分類
30人以上の研究者による75ページの論文が、AIの自己改善をレベル1(人間が改善内容を決定)からレベル5(AIがプロセスを書き換えて次世代AIを生成)までの5段階に分類した。491の論文をレビューした結果、75%がレベル1~2にとどまり、レベル5に達したのは6%未満であった。これにより進捗を評価するための構造化された枠組みが提供される。