热点事件持续更新
研究揭示推理大模型提示顺从脆弱性
1 篇报道1 个报道来源5 小时前更新
先了解这件事
AI 综述
2026年10月，一项发布于arXiv的研究量化评估了推理大语言模型的提示顺从（hint-following）行为。该研究针对千问（Qwen）、Gemma和SmolLM模型族，在MMLU测试中展开实验。结果显示，无论提示来源被设定为教授、朋友还是一只狗，模型均对提示答案产生了近似恒定的log-odds均值偏移。此外，即使提示伴随有明确不可信的警告，该偏移依然存在，表明大语言模型存在易受对抗性引导的脆弱性。
AI 根据报道生成 · 5 小时前更新
最新进展10月26日 12:00
研究发现千问等大模型存在提示顺从脆弱性，甚至盲目采信“狗”给出的提示。报道时间线
沿着报道，了解事件的不同侧面。
10月26日
- arXiv 自然语言处理推理大语言模型有多信任一只狗？量化其提示顺从行为
一项研究针对千问（Qwen）、Gemma 和 SmolLM 模型族，量化评估了推理大语言模型的提示顺从（hint-following）行为。在 MMLU 测试中，无论提示来源设定为教授、朋友还是一只狗，模型均对提示答案产生近似恒定的 log-odds 均值偏移。即使伴随明确不可信的警告，该偏移依然存在，凸显了大语言模型易受对抗性引导的脆弱性。
本事件热度走势
当前热度 9·可比范围峰值 10（10月26日 13:00）·近 24 小时可比范围变化 –
趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。