arXiv 自然语言处理· Hongliang Liu·· 7 小时前AI 评分40
决策模型作为裁判时的对抗线索：请求呈现方式的作用
Adversarial Cues in Decision Models Used as Judges: The Role of Request Presentation
AI 导读
结构化评判请求的呈现方式会显著改变裁判模型的鲁棒性，候选文本仅添加一个冒号即可诱发误判。在 200 个 DROP 和 GSM8K 簇上，键排序 JSON 呈现使 Jev 的错误接受率最高从 3.0% 激增至 26.5%，而插入呈现下均被正确拒绝。GPT-6 Sol 未出现该对抗线索导致的错误接受，证实逻辑等价的请求呈现方式能引发截然不同的漏洞。
来源：arXiv 自然语言处理 · arxiv.org