arXiv 机器学习· Haaris Mian, Miles Cranmer, Alessandro Favero, Payel Mukhopadhyay·· 16 hours agoAI score36
物理基础模型 Walrus-1.3B 在 Sim-to-Real 迁移中如何发生遗忘
Frozen in Time: How a Physics Foundation Model Forgets Under Sim-to-Real Adaptation
Not yet translated; shown in Chinese.
AI guide
研究表明连续介质动力学基础模型 Walrus-1.3B 在 sim-to-real 迁移微调中会遭遇严重的灾难性遗忘。在圆柱绕流仿真上微调仅 20 个 epoch 后,其预训练任务单步误差最高增加 35 倍,适应真实数据后仿真性能进一步受损。在真实数据微调时仅需重放 1% 的仿真数据,即可在适应真实实验动态的同时恢复大部分仿真性能。
Source:arXiv 机器学习 · arxiv.org