arXiv 自然语言处理· Samarth Varshney, Ritu Yadav·· 5 小时前AI 评分42
StateWise：训练大语言模型在多轮对话中追踪并遵守动态演进约束
StateWise: Teaching Language Models to Track and Obey Evolving Constraints in Multi-Turn Dialogue
AI 导读
研究人员提出 StateWise，通过维护自身可修订的约束状态，让单个大语言模型在多轮对话中追踪并遵循动态变化的约束。针对撤销约束容易复发的问题，该方法结合状态总结微调与基于自生成对比样本的偏好训练阶段。在 Llama-3.1-8B 等模型上，StateWise 在无需推理脚手架下将复发率降低 8-22 个百分点，对话成功率提升 8-19 个百分点。
来源：arXiv 自然语言处理 · arxiv.org