arXiv 机器学习· Joseph Rowan, Ashish J. Khisti·· 1 天前AI 评分34
面向引导式推测推理的多重重要性采样
Multiple Importance Sampling for Guided Speculative Inference
AI 导读
研究提出将引导式推测推理(GSI)拓展至多模型集成场景,由多个小型大语言模型生成草稿推理步骤,再由基础模型与过程奖励模型验证。该方法基于多重重要性采样(MIS)聚合提议分布,证明了平衡启发式(balance heuristic)的最优性及理论界。在总采样数相同下,其不仅维持了 pass@N 性能,还解决了单模型支撑集覆盖不足引发的失效问题。
来源:arXiv 机器学习 · arxiv.org