跳到正文
原文
arXiv 自然语言处理· Oladimeji Anthonio, Dimeji Olawuyi, Oloruntoba Ajayi, Temilola Aderemi·· 5 小时前AI 评分37

五种架构共享单一空间:无需权重合并的跨模型表征对齐

Five Architectures, One Shared Space Cross-Model Representational Alignment Without Weight Merging

AI 导读

五种独立训练且架构各异的冻结模型(含四种 Transformer 和一种状态空间模型)无需权重合并,仅凭激活值即可在最终层实现稳健的跨模型表征对齐。基于广义普氏分析构建的共享空间在最终层平均留出检索准确率达 0.91 至 0.93,优于两两线性映射。但该空间对数学逻辑符号失效,且在四类任务的模型路由测试中均未超越始终选用最强模型。

来源:arXiv 自然语言处理 · arxiv.org