arXiv 自然语言处理· Riju Marwah, Ritvik Garimella, Khusham Bansal, Atishay Jain, Amit Sheth·· 4 小时前AI 评分39
多语言提示词污染引发大模型输出语言混淆研究
Output Language Confusion under Multilingual Prompt Contamination
AI 导读
研究提出多语言干扰评估协议 MDI，揭示多语言提示词污染会引发大语言模型的输出语言混淆与拒绝回答，而非单纯增加模型幻觉。在 TruthfulQA 与 TriviaQA 的 40,000 次评测中，Llama-3.1-8B 在印地语干扰下有 58% 切换为天城文输出，使原始幻觉代理指标达 0.710，但修正后实际语义幻觉率降至 0.470。
来源：arXiv 自然语言处理 · arxiv.org