超越预测：上下文学习中概念恢复的组件级研究

研究人员提出了一个用于大语言模型上下文学习（ICL）概念恢复的组件级评估框架，通过分解概念并引入结构干预来评估恢复情况。在4个指令微调大语言模型和3种组合形式的测试中，模型常在预测准确率很高的情况下出现较差的整体概念恢复，表现出对相关属性和级别约束的系统性过度指定。联合监督恢复与隐式预测能在保持预测性能的同时显著改善概念恢复，且该能力可跨组合形式迁移。