英伟达推出 SoL-Pi 系统:通过优化控制层使代码智能体 Token 消耗降低近半
英伟达研发出名为 SoL-Pi 的系统,通过优化模型与执行环境之间的控制层(Harness),在几乎不影响性能的前提下,将代码智能体的 Token 消耗量最高降低 49%。该系统由研究智能体在超过 3000 次运行中自动化测试了 152 种方案后迭代而成。尽管在部分其他基准测试中收益有所减弱,但该成果证明了通过智能体外围工程控制层进行推理降本的显著可行性。
英伟达研发出名为 SoL-Pi 的系统,通过优化模型与执行环境之间的控制层(Harness),在几乎不影响性能的前提下,将代码智能体的 Token 消耗量最高降低 49%。该系统由研究智能体在超过 3000 次运行中自动化测试了 152 种方案后迭代而成。尽管在部分其他基准测试中收益有所减弱,但该成果证明了通过智能体外围工程控制层进行推理降本的显著可行性。