XNews

GLM构建递归自我改进推理基础设施

GLM构建递归自我改进推理基础设施

智谱AI透露,GLM-5.3-Flash的生产推理现运行在超过10万块国产AI加速器上,吞吐量在不到两周内提升了3.2倍,这主要归功于由GLM-5.3自身驱动的AI智能体。该智能体利用密集反馈系统修复了三个实际工程问题:精度漂移、并发瓶颈和冗余计算。

Key insights

GLM-5.3-Flash部署在10万+国产加速器上

智谱AI披露,GLM-5.3-Flash的所有生产推理现运行在超过10万块国产AI加速器上。从首次模型运行到生产部署耗时不到两周,端到端吞吐量提升了3.2倍。优化工作由GLM-5.3自身驱动的AI智能体完成,而非人类工程师。

密集反馈系统使智能体能够调试复杂系统

该AI智能体使用名为“密集反馈”的分层验证接口来识别问题。它提供正确性反馈、系统行为反馈(时间消耗在哪里)以及性能反馈(何种条件下哪种方案更优)。每个信号都是局部的、低成本的且可客观验证。这让智能体能够发现并修复三个实际工程问题。

AI智能体修复的三个工程问题

首先,KDA内核中的精度漂移问题,源于TF32舍入误差通过链状态矩阵合并累积,通过贡献给Flash Linear Attention得以修复。其次,并发瓶颈问题,由于DeepEP节点内路径未释放GIL,导致KV缓存传输与计算从未重叠,开销从超过30%降至低于1%。第三,解码内核中的冗余计算问题,重复进行了四次归一化,加速了1.71倍。

CEO唐杰:模型优化自身系统,递归循环已存在

智谱CEO唐杰强调,主要劳动力是模型本身,它帮助优化了运行自身的系统。他指出,智能体很少因无法编写代码而受阻,而是因为不清楚性能下降的原因。密集反馈系统将隐式的工程师经验转化为显式信号。他表示,最小的递归自我改进循环现已存在:模型优化系统,系统运行模型。

AI自我改进层级框架:定义5个等级

由30多名研究人员共同撰写的一篇独立论文定义了AI自我改进的5级框架:从第1级(人类决定改进什么)到第5级(AI重写创造下一代AI的过程)。对491篇论文的综述发现,75%处于第1-2级,不到6%达到第5级。该框架为追踪递归自我改进的进展提供了分类体系。

工程师从问题解决者转变为反馈设计者

唐杰强调,尽管目标设定、反馈环境构建和高风险变更审查仍由人类负责,但工程师的角色正在转变。工程师现在设计反馈系统,而非直接解决优化问题。智能体完成的每项任务都成为其后继者的训练素材,形成良性循环。

Source posts