arXiv 自然语言处理· Ioana Marinescu, Eric Karl Oermann, Kyunghyun Cho·· 7 小时前AI 评分45
大语言模型风格的无监督发现与显式控制研究
Reason in Style: Discovering and Controlling Style in Language Models
AI 导读
研究提出一种能无监督分离大语言模型输出中内容与风格的算法,在 9 个 teacher 模型的超 100K 条轨迹中识别出 6 种循环风格。通过重要性加权微调 student 模型进行显式风格控制后,在 6 个数学推理基准上的 Pass@k 表现均优于标准微调。实验同时证实生成风格直接影响解题正确率,不同问题可通过匹配特定风格提升求解概率。
来源:arXiv 自然语言处理 · arxiv.org