arXiv 自然语言处理· Shaanil Punglia, Dadhichi Telwadkar, Vaibhav Rathore, Siddharth Sureka, Neha Bhargava·· 8 hours agoAI score31
超越准确率：语言子空间干预究竟捕获、消除了什么并带来哪些改进
Beyond Accuracy: What Language-Subspace Interventions Capture, Remove, and Improve
Not yet translated; shown in Chinese.
AI guide
针对大语言模型跨语言推理的研究表明，投影消除语言子空间无法彻底移除激活值中的语言信息，且大幅提升 MGSM 准确率的干预往往以牺牲回答语言保真度为代价。基于四款开源 LLM 的测试发现，消除子空间后的线性探测器仍能精准识别语言；在 Qwen2.5-7B 评测中，仅有一种干预将答案正确且语言匹配的联合准确率微升 1.60 分。
Source:arXiv 自然语言处理 · arxiv.org