XNews

NVIDIA SoL-Pi研究:自动优化编码智能体的Token效率

NVIDIA SoL-Pi研究:自动优化编码智能体的Token效率

NVIDIA研究人员开发了SoL-Pi,这是一种自动化的流程,用于发现编码智能体的Token效率优化。在探索了152个研究方向并运行了3000多次实验后,四种机制脱颖而出,包括Action Fusion和Context Compact。在EdgeBench上,SoL-Pi保留了94%的分数,同时将Token流量减少了49%,API成本降低了三分之一。

Key insights

自动化研究管道与高筛选率

SoL-Pi采用人工智能驱动的研究管道,自动发现优化机制。它探索了六个类别的152个研究方向,创建了535个可执行的训练环境,并运行了超过3000次智能体-环境交互。只有四种机制得以保留,筛选率约为40:1。该管道使用独立验证集上的验证来防止演化过拟合。

四种幸存机制针对特定Token浪费模式

这四种机制包括:Action Fusion(将编辑和测试合并为一次调用)、Context Compact(仅在节省超过缓存重写成本时进行压缩)、ObservationPack(将大输出归档到本地,给模型提供句柄和摘要)以及Evidence Reducer(使用廉价模型通过验证提炼日志)。每种机制都针对可测量的浪费模式,且不降低任务性能。

结果:Token节省且不损失分数

在EdgeBench的51个长周期任务上,SoL-Pi保留了约94%的分数,同时将Token流量削减了49%,API成本降低了约三分之一。这些优化迁移到Opus 5时也产生了类似的节省(44.7%),证实它们针对的是浪费模式而非特定模型习惯。单位分数成本从0.586美元改善至0.417美元。

Source posts