arXiv 机器学习· Haaris Mian, Miles Cranmer, Alessandro Favero, Payel Mukhopadhyay·· 1 天前AI 评分36
物理基础模型 Walrus-1.3B 在 Sim-to-Real 迁移中如何发生遗忘
Frozen in Time: How a Physics Foundation Model Forgets Under Sim-to-Real Adaptation
AI 导读
研究表明连续介质动力学基础模型 Walrus-1.3B 在 sim-to-real 迁移微调中会遭遇严重的灾难性遗忘。在圆柱绕流仿真上微调仅 20 个 epoch 后，其预训练任务单步误差最高增加 35 倍，适应真实数据后仿真性能进一步受损。在真实数据微调时仅需重放 1% 的仿真数据，即可在适应真实实验动态的同时恢复大部分仿真性能。
来源：arXiv 机器学习 · arxiv.org