AITNT · AI头条(网页)·· 10 小时前AI 评分39
OASIS 通过显式 null 路由与跨层协调改善 AttnResidual 长上下文及低比特鲁棒性
NeurIPS'26 | 注意力也能弃权!改善长上下文、低比特鲁棒性
AI 导读
西北大学等机构提出 OASIS 架构,为 Attention Residuals 的 token 与 depth 双层信息路由提供显式 null 选项,并通过跨层耦合协调分支选择。
来源:AITNT · AI头条(网页) · aitntnews.com