arXiv 自然语言处理· Nan Jiang, Panagiotis Theodoropoulos, Wei Deng·· 5 小时前AI 评分35
PreSTO：面向 LLM 快速幂次采样的预测性子树预取方法
PreSTO: Predictive Subtree Prefetching for Fast LLM Power Sampling
AI 导读
研究者提出 PreSTO（Predictive SubTree Prefetching），通过预取候选提议且保持原有转移核不变来加速 LLM 幂次采样器 PowerMH。
来源：arXiv 自然语言处理 · arxiv.org