arXiv 自然语言处理· Maxim Khovansky, Lev Mukhanov·· 6 小时前AI 评分29
SCAPE-T：基于 Encoder-Only Transformer 注意力的语义复杂度量化方法
Quantifying Meaning with SCAPE-T: Semantic Complexity from Encoder-Only Transformer Attention
AI 导读
研究人员提出基于 Encoder-Only Transformer 注意力的语义复杂度评估指标 SCAPE-T，直接量化文本的语义整合度。该方法通过层加权聚合自身聚焦、CLS 聚焦以及注意力头间冗余度三项子指标。在控制词长的成对对比评测中，SCAPE-T 达到 78.5% 的配对准确率，较最强基线提升 12.7 个百分点。
来源：arXiv 自然语言处理 · arxiv.org