arXiv 自然语言处理· Anxin Guo, Chirag Pabbaraju, Sara Ahmadian, Kamesh Munagala, Aravindan Vijayaraghavan·· 6 小时前AI 评分44
推理大语言模型有多信任一只狗？量化其提示顺从行为
How Much Do You Trust A Dog? Quantifying Hint-Following in Reasoning Language Models
AI 导读
一项研究针对千问（Qwen）、Gemma 和 SmolLM 模型族，量化评估了推理大语言模型的提示顺从（hint-following）行为。在 MMLU 测试中，无论提示来源设定为教授、朋友还是一只狗，模型均对提示答案产生近似恒定的 log-odds 均值偏移。即使伴随明确不可信的警告，该偏移依然存在，凸显了大语言模型易受对抗性引导的脆弱性。
来源：arXiv 自然语言处理 · arxiv.org