arXiv 自然语言处理· Wenqiu Tang, Zhen Wan, Yihui Wang, Takahiro Komamizu, Ichiro Ide·· 9 小时前AI 评分34
情感并非外部知识:用于情感状态推理的内部注意力信号
Emotion Is Not External Knowledge: Internal Attention Signals for Affective State Reasoning
AI 导读
研究人员提出自目标内部注意力增强方法 SIAB,通过定位大语言模型的稀疏情感注意力头并增强其关注内容,提升情感状态推理能力。在 ECC 和 GoEmotions 基准上,SIAB 跨 3 个大语言模型相比基线分别最高提升 +10.3 与 +5.5 macro-F1。结合 PASTA 外部监督时,准确率与 macro-F1 分别最高提升 +13.84 和 +12.51 点。
来源:arXiv 自然语言处理 · arxiv.org