跳到正文
原文
AITNT · AI头条(网页)·· 10 小时前AI 评分39

OASIS 通过显式 null 路由与跨层协调改善 AttnResidual 长上下文及低比特鲁棒性

NeurIPS'26 | 注意力也能弃权!改善长上下文、低比特鲁棒性

AI 导读

西北大学等机构提出 OASIS 架构,为 Attention Residuals 的 token 与 depth 双层信息路由提供显式 null 选项,并通过跨层耦合协调分支选择。

来源:AITNT · AI头条(网页) · aitntnews.com