arXiv 自然语言处理· Mingkang Liu, Weiming Meng, Peipei Jiao, Jiawei Zhang, Tianyuan Liu, Junyan Li, Lichen Pang·· 2 小时前AI 评分34
RCSD：面向领域特定投机解码的强化与持续学习框架
RCSD: Reinforcement and Continual Learning for Domain-Specific Speculative Decoding
AI 导读
研究提出投机解码训练框架 RCSD，通过将草稿模型优化与最大化接受长度对齐来加速大语言模型推理。该方法利用推理过程中自然产生的接受与拒绝序列构建隐式偏好对，并采用掩码损失避免惩罚与目标模型对齐的 token。在多项基准测试中，RCSD 相比 HASS 将平均接受长度提升 35%，端到端推理速度加快 1.35x 且不影响生成质量。
来源：arXiv 自然语言处理 · arxiv.org