XNews

アンドレイ・カルパティ 2025年 LLM 年間レビュー

アンドレイ・カルパティ 2025年 LLM 年間レビュー

アンドレイ・カルパティは、2025年のLLM年間レビューを発表し、6つのパラダイムシフトを概説しました。主な変更点として、RLVR(検証可能な報酬からの強化学習)が数学やコードのような客観的環境を使用した第4のトレーニングステップとして標準化され、RLVRはモデルが段階的な解決戦略を発見できるようにし、計算を事前トレーニングからRLにシフトさせます。カルパティはLLMの知能を「ギザギザ」と表現し、ベンチマークが操作される可能性があると警告し、文脈、モデルのオーケストレーション、インターフェースを管理する新たに出現するLLMアプリケーションレイヤー(カーソル)を指摘しました。彼は、ローカルエージェント(クロードコード)、自然言語プログラミングを可能にする「バイブコーディング」の台頭、画像とアニメーション出力を融合させた初期のLLM GUI(ジェミニ・ナノ・バナナ)を強調しました。

Key insights

RLVRを新しいLLMトレーニングステージとして

カルパティは、事前トレーニング、監視付きファインチューニング、RLHFに第4のステージを追加する新しいトレーニングパラダイムであるRLVRを文書化しています。RLVRは、モデルが客観的で検証可能な報酬(例えば、数学問題や実行可能なコード)を持つ環境でトレーニングされるため、モデルは繰り返し練習し、内部の段階的戦略を発見できるようになります。この方法は、大規模なパラメータの増加なしに推論を改善し、計算の配分をRLフェーズに向けて変更しました。o1とo3はこの軌道のマーカーとして引用されています。

LLMの知能は不均一(「ギザギザ」)である

カルパティはモデルの知能を「ギザギザ」と位置付けています。LLMは、検証可能な報酬が存在する場合(数学、コード)にはほぼ専門家のパフォーマンスを示す一方で、常識、社会的または創造的なタスクにおいて単純なエラーを犯すことがあります。彼はこのパターンを、検証可能なトレーニング信号が利用可能な場所に起因するとし、ベンチマークスコアはモデルが評価環境に過剰適合する可能性があるため、誤解を招く可能性があると述べています。

LLMアプリケーションレイヤーが新しいソフトウェアパラダイムとして登場

カルパティは、カーソルによって具体化された独自のLLMアプリケーションレイヤーを特定しています。機能には、文脈エンジニアリング、マルチモデルオーケストレーション、専門的なUI、およびユーザーの自律性スライダーが含まれます。彼は、モデルベンダーが一般的な「卒業生」を生産し、アプリケーションビルダーがデータ、センサー、アクチュエーター、フィードバックループを整理することでそれらをドメイン専門家に変換していると主張しています。

ローカルエージェントと開発者のワークフロー

カルパティは、エージェントがローカルで実行されるべきであることを証明するものとしてクロードコードを強調しています。これはツールを呼び出し、推論し、ループし、ユーザーのプライベート環境と統合します。彼は、クラウドファーストの設計(例:OpenAIがChatGPTを通じてエージェントを配布すること)を批判し、ローカルデプロイメントがエージェントと並んで作業する開発者をより良く補完すると主張しています。

バイブコーディングがプログラミングを民主化する

カルパティは、ユーザーが英語で意図を表現し、モデルが動作するコードを生成する2025年の変化を説明するために「バイブコーディング」という言葉を造りました。彼は、これにより非プログラマーがソフトウェアを生産できるようになり、多くの小規模または一回限りのコーディングタスクが経験豊富な開発者にとって経済的になると報告しています。カルパティは、Rustトークナイザーやいくつかのアドホックツールを含む個人的な例を挙げました。

LLMグラフィカルインターフェースが出現している

カルパティは、テキスト、画像、インフォグラフィック、アニメーションを統合した初期のLLM GUI時代の証拠としてGoogleのジェミニ・ナノ・バナナを強調しています。彼は、LLMが情報を視覚的に提示し、テキスト、画像生成、世界知識をモデルの重みの中に組み合わせて人間の好みによりよく合うようにするためにGUIが必要であると主張しています。

Source posts