研究揭示LLM语言子空间干预局限与多语言推理权衡

1. 13:00
   arXiv 自然语言处理

   超越准确率：语言子空间干预究竟捕获、消除了什么并带来哪些改进

   针对大语言模型跨语言推理的研究表明，投影消除语言子空间无法彻底移除激活值中的语言信息，且大幅提升 MGSM 准确率的干预往往以牺牲回答语言保真度为代价。基于四款开源 LLM 的测试发现，消除子空间后的线性探测器仍能精准识别语言；在 Qwen2.5-7B 评测中，仅有一种干预将答案正确且语言匹配的联合准确率微升 1.60 分。

Current heat 8·Comparable peak 10（Nov 4 14:00）·Comparable change, last 24 hours–

Trends compare only the same parties observed continuously, so the scope can be narrower than current heat counts. Move the pointer or tap the chart to see hourly heat; use the left and right arrow keys on a keyboard.