arXiv 机器学习· Giovanni Monea, Keshav Ramji, Yousef El-Kurdi, Luis A. Lastras, Yoav Artzi, Nathan Godey, Ram\'on Fernandez Astudillo·· 3 小时前AI 评分35
Looped Transformer 中共享内存机制的有效性研究
The Surprising Effectiveness of Shared Memory in Looped Transformers
AI 导读
Looped Transformer 在预训练中采用共享内存机制不仅未损失模型质量，反而带来性能提升。
来源：arXiv 机器学习 · arxiv.org