arXiv 自然语言处理· Jinhyeok Kim, Hye-Young Jung·· 3 小时前AI 评分33
惩罚框架下的无有效选项 MCQA:分析大语言模型在无效选项下的弃权表现
Penalty-Framed No-Valid-Option MCQA: Analyzing LLM Abstention under Invalid Choices
AI 导读
一项研究提出了惩罚框架下的无有效选项 MCQA,用于分析大语言模型在选项均无效时的弃权(ABSTAIN)可靠性。基于 MMLU-Pro 数学子集移除正确答案并惩罚强行选择的实验表明,高 MCQA 准确率并不能保证弃权可靠性。即使在明确提示和惩罚机制下,模型对原本能正确回答的题目仍会强行选择无效选项。
来源:arXiv 自然语言处理 · arxiv.org