开源与代码模型、代理及基础设施

DeepSeek、Mistral 和 AlphaEvolve 推进开源代码和代理基础设施。- DeepSeek-V3.2 引入了 DeepSeek 稀疏注意力(DSA),将长上下文复杂度降低到线性时间,并使用专家模型蒸馏和大规模强化学习训练;在推理基准和竞争级任务上报告与同时期闭源模型的平价或优势(后17277)。- DeepSeek 使用合成模拟任务(1800个场景)训练工具使用和代理行为(17277)。- Mistral 发布了 Devstral 2 系列:Devstral 123B 适用于代码,具有 256K 上下文,SWE-bench 验证得分 72.2%;Devstral Small 24B 适用于本地 CPU 使用,SWE-bench 得分 68.0%;Mistral Vibe CLI 自动扫描项目,支持多文件编辑和 Shell 执行(17337)。- Google 宣布 AlphaEvolve(Gemini + Evolution)私人测试版:一个驱动演化的编码代理,通过评估者驱动的选择迭代变异代码;内部报告的收益包括数据中心调度中的 ~0.7% 全球计算节省和 23% 内核速度提升,导致 ~1% 训练时间减少(17369,17422)。- App-Bench 基准评估零人类网络应用生成;Orchids 得分 76.8%,Claude Code 67.5%,Gemini CLI 得分 0.0;顶级工具仍未能实现多角色流程和复杂 UI/UX 等关键功能(17375)。- 使用和基础设施趋势:开源模型显示出重度角色扮演使用(>50%);编程占 ~20% 的使用,消耗大量输入令牌(20k+);推理风格模型现在占 >50% 的使用;亚洲地区使用转变和中型模型上升(17418)。- TPU/基础设施更新:Google TPU Ironwood/HBM3E 和 SparseCore 改进被引用为降低 TPU 成本,相比 Nvidia 提高峰值利用率(17248)。
Key insights
DeepSeek-V3.2 提供稀疏注意力和专家蒸馏
DeepSeek-V3.2 以新的 DeepSeek 稀疏注意力(DSA)机制为中心,选择性地关注显著标记,将长上下文输入的计算复杂度从超线性降低到接近线性(后17277)。训练结合了针对领域峰值的专业专家模型、从这些专家中蒸馏知识到统一模型,以及在合成高复杂度模拟任务(1800个场景)上的大规模强化学习,以改善工具使用和多步骤推理。报告的基准结果显示在多领域推理任务和竞赛级基准上与同时期闭源旗舰模型平价或优越(17277)。
Mistral 发布 Devstral 2 系列和项目感知 CLI
Mistral 宣布 Devstral 2 系列,针对代码代理:Devstral 123B 被定位为旗舰代码模型,具有 256K 上下文窗口,在 SWE-bench 验证中得分 72.2%;Devstral Small 24B 针对本地部署(支持 CPU),得分 68.0(17337)。Mistral 还发布了 Vibe CLI,能够自动检测项目结构,理解多文件上下文,支持 Shell 执行和就地的仓库感知编辑,以促进代理驱动的代码库更改(17337)。
AlphaEvolve:演化编码代理进入私人测试版
Google 的 AlphaEvolve 将 Gemini 模型与演化搜索结合,迭代生成和评估算法变体,依据用户定义的评估者(帖子 17369, 17422)。用户提供问题规格和评估者以及初始种子程序;AlphaEvolve 生成代码变体的种群,应用变异和选择,并在世代中推广表现更好的变体。内部使用案例包括数据中心调度(0.7% 计算回收)和内核级硬件/算法优化(23% 内核加速,~1% 训练时间减少)(17369,17422)。
App-Bench 揭示一次性全栈生成的局限性
App-Bench 在六个现实场景(财务仪表板、医院管理、法律助手、药房系统、多玩家游戏、租赁平台)中评估零人类全栈应用生成,并在 151 个评分项目和 4530 次评估中测量功能级覆盖(17375)。最佳结果:Orchids 76.8%,Claude Code 67.5%,Vercel v0 64.9%;许多工具在多角色逻辑、复杂 UI 交互和运行时 API 错误方面失败;Gemini CLI 在报告的运行中得分为 0.0(17375)。
开源使用和基础设施趋势向中型模型和推理工作负载转变
观察指标报告开源模型使用偏向角色扮演/交互(>50%),编程占 ~20% 的用例,消耗大量令牌上下文(20K+),推理风格模型使用从接近 0% 增长到 2025 年的超过 50%(后 17418)。报告窗口内,亚洲地区的采用显著增加。此外,Google TPU Ironwood 与 HBM3E 和 SparseCore 报告的成本较低,峰值利用率较高,相比 Nvidia,影响训练经济(17248,17418)。