arXiv 自然语言处理· Yining Li, Huayang Li, Lemao Liu, Taro Watanabe·· 5 小时前AI 评分44
大语言模型位置偏差综合研究
On the Position Bias of Large Language Models: A Comprehensive Study
AI 导读
一项针对十亿至万亿级参数大语言模型在 5 种语言下的综合研究显示,增大模型规模与采用标准 CoT 提示词可显著减轻位置偏差。实验表明该偏差在小模型及非英语语境中依然显著,但具备扩展推理能力的新型思考模型几乎对其完全免疫,为解决这一模型漏洞提供了高成本但通用的路径。
来源:arXiv 自然语言处理 · arxiv.org