XNews

NVIDIA的SoL-Pi为编程智能体将Token消耗降低49%

NVIDIA的SoL-Pi为编程智能体将Token消耗降低49%

NVIDIA研究人员开发了SoL-Pi,这是一个自动化流水线,发现了四种机制来减少编程智能体中的Token浪费。在EdgeBench任务中,它将Token流量削减了49%,API成本降低了33%,同时保留了94%的性能。这些优化与模型无关。

Source posts