AI递归自我改进:新证据与辩论

多项报告显示,AI系统正越来越多地参与自身开发。谷歌DeepMind的Dream-RSI在算法设计中将代理调用次数减少了162倍。OpenAI报告称,AI现在可以自动进行为期数周的训练实验。Anthropic的内部仪表板显示,AI主导了其26%的研发工作,但完全递归改进仍遥不可及。
Key insights
Dream-RSI展示了闭环改进循环
谷歌和DeepMind的Dream-RSI重放过去的发现过程,以低成本测试数千种探索策略,然后将更好的策略输入下一轮。在算法设计、数学优化和GPU内核工程中,它在保持或提高结果质量的同时,将代理调用次数减少了高达162倍。
OpenAI内部AI系统自动化训练流程任务
据The Information报道,OpenAI的AI模型现在可以自动执行新实验模型的训练流程,包括编写GPU内核代码和优化训练代码。研究人员提供一个优化示例,AI花费数周实施类似的改进。多个AI代理在没有人类参与的情况下协作,以往需要数年的实验现在约一周内完成。
Anthropic内部仪表板量化了AI在研发中的角色
Anthropic公开分享了截至2026年7月的指标:AI主导了26%的AI研发工作(AL4级别),超过90%的研发涉及深度AI协作(AL3+)。没有任何子集达到AL5(完全自主)。在任何时刻,有30,000个代理从事研发和工程工作。约6%的AI研发算力用于安全。该仪表板为追踪加速设定了基线。
论文提出AI自我改进的五级量表
一份由30多名研究人员撰写的75页论文将AI自我改进分为5个级别,从人类决定的更改(1级)到AI改写构建下一代AI的过程(5级)。在审查的491篇论文中,75%仍处于1-2级,不到6%达到5级。