NVIDIA SoL-Pi 自动优化编码代理框架,令牌使用量减少49%

NVIDIA研究人员开发了SoL-Pi,这是一个自动化系统,发现了四种减少编码代理框架中令牌浪费的机制。在搜索了152个研究方向并进行了3000多次试验后,它找到了Action Fusion、Context Compact、ObservationPack和Evidence Reducer。在EdgeBench上,SoL-Pi将令牌使用量减少了49%,API成本降低了33%,同时保留了约94%的分数,并且这些收益无需调整即可迁移到Opus 5上。