arXiv 机器学习· Yuji Akamatsu, Takao Yamanaka·· 5 小时前AI 评分28
注意力机制何时无法解释峰值：基于注意力的时间序列预测中时间参考与预测输出的对比
When Attention Does Not Explain the Peak: Temporal Reference vs. Forecast Output in Attention-Based Time-Series Forecasting
AI 导读
研究表明在基于注意力的时间序列负荷预测中，跨注意力分布并不能有效解释预测峰值的时间定位。在巴拿马负荷数据集测试中，模型预测峰值时间误差中位数为 0 h（精确匹配率 51.6%），而注意力最大值误差达 5 h且匹配率为 0%。结果表明此类注意力主要承担整合未来外生信息的内部参考角色，而非提供峰值选择性解释。
来源：arXiv 机器学习 · arxiv.org