XNews

Anthropic 披露内部 AI 研究自动化指标

Anthropic 披露内部 AI 研究自动化指标

Anthropic 公开披露了其内部 AI 开发指标:26% 的 AI 研究工作达到自动化四级(AI 主导),超过 90% 有 AI 参与,3 万个智能体同时处理工程任务。约 6% 的计算能力用于安全。

Key insights

研发自动化指数:26% 达到 AL4,90% 有 AI 参与

Anthropic 每周抽样 20% 的员工任务,构建了一个包含 542 个节点的任务树。Claude 根据 Epoch AI 的 AL0-AL5 等级对每个任务进行评分。截至 2026 年 7 月,26% 的研发工作达到 AL4(AI 主导,人类监督),90% 达到 AL2+(AI 参与或主导)。没有任何任务子集达到 AL5(完全自主)。这为衡量 AI 自我改进的加速提供了基准。

智能体监督:3 万智能体运行,仅 0.002% 行为被阻止

在内部智能体平台上,约有 3 万个智能体同时运行。在线监控仅阻止 0.002% 的行为(通常是快速的不可逆危害,如窃取模型权重)。离线监控标记约 0.1% 的对话,每周约有 50 个升级至人工审查。报告警告称,在此规模下,即使是罕见的有害事件也可能发生。

计算分配:6% 用于安全,AI 驱动的 AI 研发中比例更高

在一周内,约 10,000 个计算任务被分类:整体 AI 研发计算中约 6% 分配给安全。具体在 AI 驱动的 AI 研发中,安全份额升至约 12%。该方法允许跨实验室的标准化比较,并可能对安全智能体 AI 的计算量设置上限。

六个月从 1% 升至 26%

Claude 在模型研发中的参与率在短短六个月内从 1% 升至 26%。这一快速增长表明 AI 在研发中的自我参与正在迅速提升,尽管完全自主的研发(AL5)尚未实现。

Source posts