热点事件持续更新
研究提出双曲辛位置编码HySPE
1 篇报道1 个报道来源3 小时前更新
先了解这件事
AI 综述
2026年10月8日,arXiv发布的研究提出了一种基于辛对偶剪切的位置编码方法——双曲辛位置编码(HySPE)。该方法通过对偶剪切阻尼复合来实现位置注意力构建。测试结果显示,HySPE在RTX 4090上的前向延迟为7.21 ms,运算速度与带缓存的RoPE相当;在TinyShakespeare的16倍零样本外推测试中,HySPE-UltraLong的困惑度保持在4.810,显著优于RoPE的131.198。
AI 根据报道生成 · 3 小时前更新
最新进展10月8日 12:00
研究提出双曲辛位置编码HySPE,在16倍零样本外推测试中困惑度达4.810,显著优于RoPE。报道时间线
沿着报道,了解事件的不同侧面。
10月8日
- arXiv 自然语言处理HySPE:基于辛对偶剪切的位置编码方法
研究提出双曲辛位置编码 HySPE,通过对偶剪切阻尼复合实现位置注意力构建,在 RTX 4090 上前向延迟达 7.21 ms 且与带缓存的 RoPE 相当。在 TinyShakespeare 的 16 倍零样本外推测试中,HySPE-UltraLong 困惑度保持在 4.810,显著优于 RoPE 的 131.198。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。