XNews

AI自我改进水平分类学论文

AI自我改进水平分类学论文

一篇由30多位研究人员撰写的75页论文将AI自我改进分为5个级别,从人类指导的改进(级别1)到完全由AI驱动的重新设计(级别5)。通过审查491篇论文,他们发现75%仍处于级别1-2,只有不到6%达到级别5。

Key insights

定义了AI自我改进的五级分类法

该论文引入了一个层级分类:级别1——人类决定改进什么;级别2——AI提出改进建议但需人类批准;级别3——AI在预定义边界内自主进行改进;级别4——AI独立发现并实施改进;级别5——AI重写创建下一代AI的整个过程。

当前大多数AI研究停留在早期阶段

对491篇论文的分析显示,75%的现有研究属于级别1-2,意味着人类指导仍占主导地位。只有不到6%的论文描述了系统达到级别5,即AI完全控制改进过程。

对AI进展的影响

论文作者指出,尽管进展迅速,AI自我改进仍处于起步阶段。绝大多数系统依赖人类干预进行增强,这表明大规模真正的自主改进仍是一个遥远的目标。

Source posts