arXiv 机器学习· Qingwen Lin, Boyan Xu, Shifeng Xie, Zhifeng Hao, Keli Zhang, Ruichu Cai·· 5 小时前AI 评分34
HART：混合 Attention 与 RWKV 的时间序列基础模型
HART: Hybrid Attention-RWKV Time series Foundation Model
AI 导读
研究人员提出时间序列基础模型 HART，通过交替堆叠 Attention 与 RWKV 模块，解决了 RWKV-7 在非自回归多步预测中的长周期性能衰减问题。在 GIFT-Eval 和 TIME-Benchmark 评测中，其中长周期表现超越纯 RWKV，综合性能优于同尺寸纯 Transformer。
来源：arXiv 机器学习 · arxiv.org