arXiv 自然语言处理· Takanori Kotama, Shun-ichiro Hayashi, Daichi Mukunoki, Tetsuya Hoshino, Takahiro Katagiri·· 1 天前AI 评分34
NinaXander:跨架构家族冻结语言模型隐空间拼接的可行性与局限
NinaXander: Feasibility and Limits of Composing Frozen Language Models Across Architecture Families via a Shared Latent Space
AI 导读
NinaXander 通过单个共享隐空间适配器连接不同架构的冻结大语言模型,并基于 RWKV-4-Raven-7B 与 Tulu-Pythia-6.9b 进行了拼接验证。
来源:arXiv 自然语言处理 · arxiv.org