arXiv 自然语言处理· Samar Ansari·· 7 小时前AI 评分42
3, 7, 14, 17, 42：指令微调在大语言模型中植入并强化选数偏好
3, 7, 14, 17, 42: Instruction Tuning Installs and Sharpens Number-Choice Heuristics in Language Models
AI 导读
一项对 18 条开源模型线的研究发现，指令微调使大语言模型生成随机数的分布更不均匀，不仅植入了“避开整十数”的启发式，还强化了“避开端点”的偏好。在 15 组基座与微调模型对比中，微调模型几乎完全避开 10 的倍数且极少选择端点 1 和 N；此外微调并未形成跨模型统一偏好的数字，在 N>10 时没有众数整数被超过 42% 的微调条件共享。
来源：arXiv 自然语言处理 · arxiv.org