XNews

AI自我改进水平框架确定五个阶段

AI自我改进水平框架确定五个阶段

超过30位研究人员发表了一篇75页的论文,定义了AI自我改进的五个层次框架,从第1级(人类决定改进内容)到第5级(AI重写创建下一代AI的过程)。对491篇论文的评审发现,75%处于第1-2级,而不到6%达到第5级。

Key insights

定义AI自我改进的五个层次

该框架将AI自我改进分为五个层次:第1级(人类决定改进内容)、第2级(AI辅助改进)、第3级(AI提出改进建议)、第4级(AI在约束条件下自主改进)和第5级(AI重写创建下一代AI的过程)。论文评审了491篇研究论文,发现75%处于第1-2级,而不到6%达到第5级。

当前大多数研究停留在低自我改进水平

评审表明,绝大多数AI自我改进研究仍处于人类主导的早期阶段。只有少数论文展示了能够自主重新设计改进过程本身的AI系统,凸显了当前能力与完全递归自我改进之间的显著差距。

Source posts