XNews

小模型推理突破:VibeThinker-1.5B 与 o1 的研究进展

小模型推理突破:VibeThinker-1.5B 与 o1 的研究进展

新浪微博开源 VibeThinker-1.5B(1.5B 参数),训练成本约7800美元,在数学与编码推理任务上取得显著提升。 - 模型:VibeThinker-1.5B,基于 Qwen2.5-Math-1.5B - 成本:训练成本7800美元 - 核心方法:谱-信号原理(SSP)—SFT(多样性谱阶段)+RL(信号放大) - SFT 技术:两阶段多样性探索蒸馏,领域感知多样性探测与专家模型融合 - RL 技术:最大熵指导政策优化(MGPO)与群相对政策优化(GRPO)扩展 - 数据净化:10-gram 语义匹配去重 - 基准成绩:AIME24 80.3,AIME25 74.4,HMMT25 50.4,LiveCodeBench V6 51.1 - 与大型模型对比:在多数学测中小胜 DeepSeek R1 或持平 MiniMax-M1,但知识基准 GPQA 有差距(46.7 vs 70-82) - 影响:降低推理成本,便于边缘部署,挑战规模定律

Key insights

VibeThinker-1.5B 开源并以低成本实现高推理能力

VibeThinker-1.5B 在开源发布中指出其训练成本仅约7800美元,基于 Qwen2.5-Math-1.5B 进行后训练与优化。实验证明,该1.5B模型在数学与编码推理基准上取得大幅提升,证明通过训练范式改进可以在小参数规模下获得高推理能力,从而显著降低推理与部署成本。

谱-信号原理(SSP)重构 SFT 与 RL 的协同流程

论文提出谱-信号原理(SSP),将监督微调(SFT)定位为探索多样性以生成多解光谱,并通过两阶段多样性探索蒸馏与专家模型融合实现;随后用最大熵指导政策优化(MGPO)在 RL 阶段放大正确推理轨迹,MGPO 基于群相对政策优化并优先训练高不确定性样本,从而高效强化高价值问题解决路径。

在数学与编码基准上对比结果领先同类大型模型

VibeThinker 在多个基准上取得高分:AIME24 80.3、AIME25 74.4、HMMT25 50.4、LiveCodeBench V6 51.1。报告显示其在数学任务上小胜 DeepSeek R1,并与 MiniMax-M1-456B 持平;在编码基准上接近或优于部分更大模型,证明小模型在特定推理任务上具备竞争力。

小模型在广域知识基准仍存在差距

尽管 VibeThinker 在数学与编码推理上表现优秀,但在知识类基准 GPQA-Diamond 上分数为46.7,仍落后于得分70-82的更大模型,显示小模型在广域事实知识覆盖与记忆方面仍需加强。

o1 模型显示机器具备元语言能力的研究进展

伯克利研究指出 o1 模型在语言学任务中展示出类似人类的“元语言能力”,能识别并生成多层递归句法结构、构建语法树并解释判断依据,表明其在链式思维与结构化分析方面取得重要进展,从而重新定义模型在语言理解上的能力边界。

Source posts