XNews

AI自我改进等级框架与Anthropic内部仪表盘

AI自我改进等级框架与Anthropic内部仪表盘

Anthropic于2026年9月17日公开分享了一个内部仪表盘,包含三项指标:研发自动化指数、智能体监督和计算资源分配。截至2026年7月,26%的AI研发工作达到AL4(AI主导、人类监督),超过90%达到AL3+。没有任何工作子集达到AL5(完全自主)。超过3万个智能体同时运行,仅有0.002%的操作被拦截,6%的研发计算资源分配给安全领域。

Key insights

研发自动化指数:AL4状态作为基准线

Anthropic每周对20%的研发人员工作进行抽样,生成约15,000个任务,组织成一个包含542个节点的任务树。每个任务由Claude按照AL0-AL5等级进行评分。截至2026年7月,26%的研发工作达到AL4(AI主导,仅需人类监督),超过90%达到AL3+(深度AI协作或领导)。没有任何子集达到AL5(完全自主、闭环)。这为衡量未来时期的加速情况提供了基准线。

智能体监督:低拦截率与持续验证

在高峰期,约3万个智能体同时运行。在线监控在数秒内拦截100%的操作,2026年8月仅有0.002%(即每47,000个中1个)被拦截(分析了超过10亿个决策)。典型的拦截涉及导出模型权重。离线监控每周标记约10万条对话记录(0.1-0.2%),其中约50条升级至人工审查。Anthropic指出,在此规模下罕见事件变得频繁,且该系统仅运行了几个月。

计算资源分配:6%用于安全

对2026年7月13日至20日这一周所有约10,000个计算任务的分析显示,用于AI研发的计算资源中约6%分配给了安全工作。当仅考虑AI驱动的AI研发时,安全占比约为12%。Anthropic称这些为保守估计。这是最可验证的指标,为未来跨实验室比较设定了基准。

30多位研究人员提出的五级自我改进框架

一份由30多位研究人员撰写的75页独立论文提出了AI自我改进的五级分类法。第1级:人类决定改进什么。第5级:AI重写创建下一代AI的过程。作者审查了491篇论文,发现75%仍处于第1-2级,不到6%达到第5级。该分类法提供了一个与Anthropic的AL0-AL5等级一致的外部学术框架。

Source posts