arXiv 自然语言处理· Yasuaki Sumita, Tomoharu Iwata, Toshiyuki Tanaka·2026-10-19 12:00· 4 小时前AI 评分35

通过融合对齐前后的大语言模型控制多样性与质量的权衡

Controlling the Diversity-Quality Trade-Off of LLMs by Merging Models Before and After Alignment

AI 导读

研究人员提出一种深度感知 FrankenMerging 方法，通过组合对齐模型的较低层与基础模型的较高层，无需额外训练即可控制大语言模型在多样性与质量之间的权衡。实验表明，融合模型在多数情况下展现出比对齐模型更高的语义多样性，并在多数设定下比温度采样具备更优的多样性与质量权衡表现。