安德烈·卡帕斯的2025年大型语言模型年度回顾

卡帕斯发布了2025年大型语言模型年度回顾概述。
Key insights
RLVR成为第四个训练阶段
安德烈·卡帕斯指出,2025年增加了第四个大型语言模型训练阶段:RLVR(来自可验证奖励的强化学习)。RLVR在具有客观、可验证奖励的环境中训练模型(例如:具有确切答案的数学问题、可运行的代码),使模型能够练习并自我发现解决策略,而不是模仿人类标记的示范。卡帕斯报告称,这一转变将计算资源从预训练重新分配到强化学习阶段,并在推理能力上带来了显著提升,而参数数量并未大幅增加。他引用了OpenAI的o1和o3系列作为这一进程的里程碑。
模型发展出新兴的逐步推理能力
卡帕斯认为,RLVR使模型能够“发现”多步骤问题分解和重试策略,类似于推理:模型将大任务分解为更小的步骤,并从错误的尝试中回溯。他将RLVR与监督微调/RLHF进行对比,后者被他描述为模仿;RLVR则允许模型探索人类示范者无法轻易标记的策略。他补充说,在推理时分配更多计算资源——让模型“思考更长时间”——会产生更长、更高质量的推理链。
锯齿状智能与基准测试的不信任
卡帕斯用“幽灵”而不是“动物”来比喻大型语言模型的智能,产生锯齿状智能:在具有可验证奖励的领域(数学、代码)表现极其强劲,而在常识、社交或对抗环境中则存在明显失败。他指出,这种专业化解释了基准分数可能具有误导性,因为基准本身就是模型可以优化的可验证环境,从而导致“基准过拟合”,同时留下通用智能的缺口。
大型语言模型应用层作为新软件范式的出现
卡帕斯强调Cursor是大型语言模型应用层作为新软件类别的证明。他将这些应用描述为执行上下文工程,协调多个模型调用,暴露人类干预的专用用户界面,并提供用户控制的“自主滑块”。他表示,模型提供者产生通用能力(“大学毕业生”),而大型语言模型应用则利用私有数据、传感器和执行接口将这些能力训练和组织成垂直专业工作流。
本地代理与克劳德代码作为范式转变
卡帕斯特别提到克劳德代码作为本地运行的人工智能代理的引人注目的示范:它调用工具,循环推理和执行,并使用本地环境和数据。他批评将Codex/代理主要转移到云容器,认为在当前这一中间阶段——模型不均衡且需要密切的人类协作——“生活”在开发者机器上的本地代理更适合与开发者工作流和私有上下文集成。
氛围编码与大型语言模型图形用户界面趋势
卡帕斯创造并宣传了“氛围编码”来描述以自然语言为主的编程:用户用英语描述意图,模型编写代码,而不需要用户了解代码结构。他报告称,这使编程民主化,并使许多短期、一次性脚本变得经济实惠。他还强调谷歌的Gemini Nano Banana作为新兴大型语言模型图形用户界面时代的证据,模型输出视觉格式(图像、信息图、动画)而非纯文本,预测这一转变类似于从命令行到图形用户界面的迁移。