arXiv 人工智能· Kuan Zhang, Yukun Chen, Zhihao Yang, Yue Su, Xiangnan Wu, Zirong Chen, Run Luo, Jinkun Hou, Tao Tan, Yinhe Zheng, Yiming Li·· 2 小时前AI 评分44
游戏中的 Scaling：面向多样虚拟世界具身智能体的持续预训练
Scaling in Games: Continued Pre-Training For Embodied Agents In Diverse Virtual Worlds
AI 导读
研究人员针对多样虚拟世界具身智能体展开持续预训练（CPT）扩展研究，覆盖 0.8B 至 27B 模型与 50 至 1,600 小时数据共 120 种配置。实验表明数据量提升语料内表现，多样性促进相关世界迁移，并拟合了关联损失、数据与规模的经验扩展法则。模型在 3D 实时场景表现优异，但远端世界的泛化瓶颈表明通用具身智能体仍需超越 CPT 的训练阶段。
来源：arXiv 人工智能 · arxiv.org