arXiv 机器学习· Giulianno Vollmer·· 7 小时前AI 评分54
Metis-1.6 技术报告：采用双重循环 Mamba-2 与 MoE 架构的小参数模型
Think Twice: The Metis-1.6 Technical Report
AI 导读
独立研究者发布 Metis-1.6 技术报告，推出基于 Mamba-2 与 Attention MoE 循环处理架构的 Praxis（2.94B）与 Logos（10.23B）两个语言模型。
来源：arXiv 机器学习 · arxiv.org