跳到正文
原文
arXiv 自然语言处理· Jiaming Yu, Xiaotian Xie, Jian Ma, Yingjie Li·· 7 小时前AI 评分34

微小修改引发决策漂移:LLM 法语输入变体准确性与可靠性基准评测

Small Edits, Shifting Decisions: Benchmarking LLM Accuracy and Reliability on French Input Variants

AI 导读

研究团队构建了包含 12,600 个实例的法语表面变体基准,系统评测输入扰动对 2 个家族 6 款 LLM 准确性与预测可靠性的影响。测试显示键盘拼写错误影响最大,更大模型虽能减轻高强度扰动下的准确率损失,但 Brier 分数与 NLL 并未随模型规模持续改善。结合输入还原与校准可在保持恢复准确率的同时,进一步优化 Brier 分数和 NLL。

来源:arXiv 自然语言处理 · arxiv.org