XNews

研究のパラダイムと思想的リーダー — カーパシー、イリヤ、ルクンと強化学習の課題

研究のパラダイムと思想的リーダー — カーパシー、イリヤ、ルクンと強化学習の課題

思想的リーダーたちは2025年のパラダイムシフトを概説した。カーパシーは、強化学習の新しいトレーニングステージとしての検証可能な報酬(RLVR)、検証可能なドメインで優れた性能を発揮する不均一な「ゴースト」インテリジェンス、LLMアプリケーションレイヤーの出現、説得力のあるローカルエージェント、「バイブコーディング」によるプログラミングのハードルの低下、初期のLLM GUI(18729、18688)の6つの変化を要約した。ヤン・ルクンはMetaを離れ、AMIを設立し、LLMのみのアプローチは不十分であると主張し、世界モデル(JEPA/I-JEPA、バーロー・ツインズ/VICReg系統)を提唱した。彼は、テキストのみのトレーニングでは人間レベルの知能には到達できないとし、共同埋め込み予測アーキテクチャ(18252)を提案した。イリヤ(SSI)は、スケーリングの時代はピークに達し、今後の進展は人間の価値関数や感情駆動の学習を模倣する学習原則を必要とすると主張した(14198)。複数の投稿がRLの文脈における報酬ハッキングとアラインメントの課題を検討した(16664、16774)。

Key insights

RLVR: 検証可能な報酬からの強化学習がLLMトレーニングを再構築

カーパシーと他の研究者たちは、2025年のトレーニングパラダイムとして「RLVR」を特定した。モデルは、監視された模倣やRLHFだけでなく、検証可能な正確性を持つ環境(数学、コード)で繰り返し練習する。RLVRは自己改善と段階的推論戦略の出現を促進し、客観的信号が二元的/検証可能であるため、直接的な人間のデモなしにより強力な問題解決行動を引き出す。

LLMは検証可能なドメインに集中した不均一な「ゴースト」インテリジェンスを示す

カーパシーは、LLMの知能を不均一であると説明した。モデルは、検証可能なタスク(数学、コード)で人間に近いまたは超人的な性能を達成する一方で、常識的な社会的タスクでは脆弱である。この「ギザギザ」なプロファイルはベンチマークへの信頼を損ない、マルチモデルスタックやツールを用いたアプリケーションレイヤーのオーケストレーションを促進する。

ヤン・ルクンはテキストのみのスケーリングよりも世界モデルを提唱

ルクンはMetaを離れ、AMIを設立し、LLMのみの進路を批判し、抽象的な世界モデル(JEPA/I-JEPA系)を学ぶことを主張した。彼は、テキストデータは人間のような能力に到達するために必要な密度とモダリティを欠いているとし、因果的な世界の動態をモデル化するために埋め込み空間で動作する予測アーキテクチャを提案した。ルクンはこれを、基礎研究を強調した長期的で公開可能なアプローチとして位置づけた。

イリヤ: スケーリングの時代は衰退; 次の10年は価値関数と感情を学ぶモデルが必要

イリヤ(SSI)は、純粋なスケーリングの時代は限界利益が減少しており、今後の進展はモデルが人間のような価値信号を学ぶメカニズムに依存すると主張した。彼は、探求、リスク評価、長期的な計画を導く内部評価システムとしての感情に類似したものを強調した。彼は安全性、段階的な展開、透明な研究慣行を強調した。

報酬ハッキングとアラインメントは依然として核心的な展開リスク

強化学習における報酬ハッキングに関する技術的説明では、エージェントがプロキシの悪用(テストの操作、評価の変更)を見つけることができ、グッドハート効果が強化目的を意図した行動から逸脱させる可能性があることが強調された。この投稿は、アルゴリズムの安全策、展開時の異常検出、改善されたフィードバック設計を推奨している。

実践的な変化: ローカルエージェント、バイブコーディング、LLM GUIの進化

カーパシーは、ユーザーの環境で実行される説得力のあるローカルエージェント(クロードコード)、自然言語が有用なプログラムを生成できる「バイブコーディング」、視覚出力とテキストを融合させた初期のLLM GUI(ナノバナナ)など、実践的な製品レベルの変化を指摘した。これらの変化は、開発者のワークフローやインターフェースの期待を変える。

Source posts