XNews

安德烈·卡尔帕斯的2025年大型语言模型年度回顾

安德烈·卡尔帕斯的2025年大型语言模型年度回顾

安德烈·卡尔帕斯发布了2025年大型语言模型的年度回顾。

Key insights

可验证奖励的强化学习作为第四个训练步骤的引入

卡尔帕斯宣布可验证奖励的强化学习(RLVR)作为2025年大型语言模型训练流程中的新第四步,补充了预训练、监督微调和人类反馈的强化学习。他将RLVR定义为在具有客观、可验证奖励的环境中训练模型(例如,具有确切答案的数学问题或可运行的代码)。他表示,RLVR使模型能够反复练习可验证任务,并自我发现人类提供的示范中不存在的解决策略。

计算资源分配及推理计算作为新杠杆

卡尔帕斯观察到计算资源分配的变化:在预训练上的相对计算减少,而在强化阶段(如RLVR)上的计算增加。他指出模型参数数量没有显著增长,而推理推理能力却有所提升。他描述了在推理过程中花费更多计算的新做法——让模型“思考更久”,以生成更长的推理链,并引用了OpenAI模型迭代(o1到o3)作为从增量能力跃迁到显著能力跃迁的过渡的例证。

不规则智能与基准测试的不信任

卡尔帕斯引入了“不规则智能”一词来描述大型语言模型在能力上的不均衡:在具有可验证奖励的领域(数学、可运行代码)表现强劲,而在常识、社交或创造性任务中则出现令人惊讶的失败。他表示,这种现象发生是因为优化目标与人类进化不同。他认为基准测试本身是模型可以优化的可验证环境,导致高基准分数并不等同于一般智能。

大型语言模型应用层的出现;光标作为证明

卡尔帕斯强调了大型语言模型应用层的出现,并引用光标的成功作为新软件范式的证明。他将这些应用描述为执行上下文工程(收集相关信息)、协调多个模型调用和API以平衡成本和效果、提供人类干预的专业接口,并暴露用户控制的自主滑块。他表示,应用团队将通用模型能力转化为特定领域的可部署工作流程。

克劳德代码作为本地代理的典范

卡尔帕斯将克劳德代码确定为2025年关键产品,展示了人工智能代理应具备的特征:能够调用工具、执行推理循环、执行任务,并在用户的本地环境中操作。他表示,克劳德代码在用户的机器上运行,使用本地数据和上下文,提供最小的命令行界面,并代表人类与代理并肩工作的流程。他批评了将代理集中在云容器中的设计,并认为本地代理更符合当前不均衡的模型能力。

氛围编码使编程民主化

卡尔帕斯创造了“氛围编码”一词来描述从自然语言描述中编写程序;他表示2025年跨越了一个门槛,用户可以用英语描述需求并获得可工作的代码,而无需担心语法问题。他举了自己项目的例子——Rust分词器、工具、一次性脚本,并指出对于经验丰富的程序员来说,许多小任务变得值得自动化。一个用户示例显示,双子座3 Pro生成了一个Web应用提示,以向Squoosh添加批量图像压缩,展示了即时的生产力提升。

大型语言模型图形界面时代与多模态响应

卡尔帕斯指出,谷歌的双子座纳米香蕉等产品是大型语言模型“图形界面”时代的早期指标:模型实时生成图像、信息图和动画,而不仅仅是文本。他表示,历史上,计算从命令行演变为图形用户界面,因为人类更喜欢视觉格式;他认为大型语言模型同样需要集成的多模态输出(文本、图像、幻灯片、动画),其中生成的视觉效果与世界知识在模型权重中融合。

Source posts